Tecnoconsapevolezza e libertà di scelta: Il potere degli algoritmi

Carlo Mazzucchelli

Il mio libro 𝗧𝗘𝗖𝗡𝗢𝗖𝗢𝗡𝗦𝗔𝗣𝗘𝗩𝗢𝗟𝗘𝗭𝗭𝗔 𝗘 𝗟𝗜𝗕𝗘𝗥𝗧𝗔' 𝗗𝗜 𝗦𝗖𝗘𝗟𝗧𝗔 condiviso per intero sulla Stultiferanavis. Chi si affida alla fredda logica codificatrice e computazionale dell’algoritmo e ai dati che produce, rinuncia ai desideri, alle sorprese, alle aspettative, alle volontà, all’apprendimento, alle proprie conoscenze e alla razionalità.

“La libertà non c’è, come non c’è la salute, ma è utile comportarsi come se ci fosse, e tutta la nostra vita è tesa a stabilire non tanto il kantiano regno dei fini, ma il regno della libertà, la quale non è immediatamente data, ma può essere costruita vivendo”- Giulio Giorello

“Nei servizi digitali, un algoritmo funziona davvero quando riesce ad armonizzarsi a tal punto con l’ambito nel quale opera, da portare gli attori a regolare le loro azioni sui suoi verdetti, da nutrirne gli immaginari secondo i principi da lui stabiliti”Che cosa sognano gli algoritmi, Dominique Cardon

Meglio affidarsi al giudizio soggettivo di un esperto o alle formule matematiche e alle logiche statistiche di un algoritmo? La risposta che molti danno è scontata. L’algoritmo è più esatto, oggi dispone anche di maggiori informazioni, utili a rendere le sue formule computazionali e predittive ancora più esatte. In molti ambiti nei quali domina l’incertezza e l’imprevedibilità, ancor prima della diffusione delle tecnologie digitali, l’algoritmo ha dimostrato tutta la sua potenza, idoneità e validità. Per alcuni superiori a quelle di esseri umani incoerenti, sempre imprigionati in pregiudizi e giudizi di troppo.

Ciò a cui l’algoritmo sembra essere interessato non sono le variabili creative, i punti di vista inediti degli umani, ma il risultato finale ottimale, anche se statistico. Diventato digitale e avendo colonizzato le piattaforme tecnologiche abitate da miliardi di persone, oggi l’algoritmo non si confronta più con gli esperti o nei laboratori scientifici ma con tutti dentro le piattaforme digitali che frequentano.

Lo fa con maggiore forza e soprattutto in contesti che hanno visto scomparire molta dell’ostilità tradizionale verso le sue formule, la sua rigidità, arbitrarietà e artificialità meccanica. La sua forza deriva dalla sua evoluzione nel tempo e maturità, nell’esercizio di un potere che mira sia a dare risposte per l’immediato, sia indicazioni predittive e tali da definire gli scenari futuri che verranno. Un valido motivo per non negare le sue capacità e utilità e per analizzarne il ruolo e il peso da esso assunti nel determinare la nostra vita di tutti i giorni e il nostro futuro.

L’attenzione di chi interagisce con la tecnologia è oggi principalmente catturata dalla ricchezza e varietà di apparecchi e strumenti disponibili, dalla loro potenza computazionale e connettività diffusa, dalla loro magia che deriva dall’essere terminali di una rete di migliaia di server che tutti sappiamo essere nel Cloud senza sapere cosa esso veramente sia, dalla lucentezza attrattiva e magnetica dei loro display, oggi anche flessibili e pieghevoli come quello del Galaxy Fold, dall’abbondanza funzionale delle loro APP e dagli universi paralleli a cui fungono da ingresso principale.

Attenzione distratta

Nei mondi digitali cerchiamo visibilità (autopromozione), reputazione, popolarità, tutto il resto è noia. Lo è anche cercare di capire quali siano i contesti nei quali si producono e si scambiano informazioni e quali gli attori che vi recitano con ruoli da protagonisti, registi, sceneggiatori e supervisori. La conoscenza della scena teatrale digitale così come interrogarsi su cosa succede nel backstage non è un esercizio noioso, serve a rimanere svegli (quante volte a teatro semplicemente ci si addormenta?), può suggerire nuove priorità e urgenze come quella di esercitare il pensiero critico e di provare a cambiare la trama e le narrazioni correnti.

Sfugge all’attenzione dei più il ruolo che gli strumenti tecnologici e le piattaforme digitali hanno assunto nel definire, con le loro parole, concetti e idee, l’ambiente cognitivo, relazionale (anche di potere) e di senso delle vite personali di ognuno. Sfugge a molti la fitta trama reticolare che la tecnologia è andata intessendo e che oggi si estende globalmente attraverso software che si è mangiato il mondo, algoritmi che lo stanno plasmando e semplificando a loro immagine e somiglianza, piattaforme che lo hanno colonizzato, applicazioni che ne definiscono le varie realtà possibili, imponendo eventi, regole, processi, dinamiche, relazioni e comportamenti. Calcolatori, smartphone e applicazioni di social networking sono state create da noi e oggi sono loro a plasmarci e costruirci. Sono diventati parte integrante della vita quotidiana trasformando profondamente ciò che siamo, quello che sappiamo, i nostri comportamenti, la percezione del nostro Sé e la rappresentazione che ne facciamo.

Algoritmo maggiordomo ruffiano

In questo contesto un ruolo chiave è giocato dall’algoritmo, strumento di calcolo, misurazione e conoscenza, insieme di istruzioni matematiche per codificare il mondo intero, sequenza di codice computazionale e veicolo di mediazione culturale e cognitiva, colonizzatore di realtà in nome dell’efficacia e della produttività, ladro di lavoro e "automatizzatore" seriale, bulimico di dati e specchio digitale di ciò che, attraverso le informazioni e le conoscenze da essi ricavati, ha deciso chi e che cosa siamo. Un maggiordomo ossequiente e un ruffiano di primordine, nella veste di assistente personale, capace di incantare per la sua efficienza ma anche per la voce vellutata e sensuale, non a caso quasi sempre femminile, l’inflessione tonale e la ricchezza di feedback. La sua pervasività lo ha reso invisibile, viene percepito come neutrale, quasi mitizzato nella sua capacità magica e sciamanica di soddisfare bisogni e necessità. Per questo motivo è ormai ritenuto insostituibile e non discutibile. Oggi alla base di una delle più dirompenti rivoluzioni della storia del genere umano e la cui conoscenza è il primo passo da compiere per comprenderne gli impatti che avrà nel futuro della Terra e della specie umana (Vita 3.0 e oltre) nell’era dell’intelligenza artificiale e delle macchine capaci di apprendere.

Un algoritmo, come aveva già intuito Darwin, non è altro che una sequenza formale di procedure o calcoli che produce sempre un certo tipo di risultato. La sua struttura logica prevale su tutto il resto, una volta creato e implementato non ha bisogno di una mente per produrre risultati. una semplice ricetta infallibile che può essere sperimentata da cuochi diversi alla ricerca di informazioni dettagliate su come farlo. La tecnologia è diventata il grande Artusi degli algoritmi, il Cucchiaio D’argento di ricette capaci di garantire sempre il successo e la riuscita, un libro di magia vera applicata ad ambiti diversi dalla cucina di casa o di un ristorante rinomato.

Algoritmo invisibile ma non trasparente

Dell’algoritmo tecnologico molti non conoscono neppure l’esistenza, la potenza e l’efficienza nell’imporre i ritmi e gli obiettivi delle macchine (“l’algoritmo ci userà mentre noi lo usiamo”. La trasparenza che lo caratterizza è pari all’oscurità dei calcoli, delle routine software e delle componenti di intelligenza artificiale che contiene. La trasparenza assoluta è paragonabile all’oscurità e come tale dovrebbe essere sottoposta alla nostra capacità critica, per fare un po' di luce.

Interrogarsi su cosa sia l’algoritmo e sulla sua differenza da quelli che il futurologo Gerd Leonhard ha chiamato gli “androritmi” (empatia, compassione, creatività e storytelling), fa scaturire la prima domanda da porsi. La risposta che si troverà non sarà mai definitiva, solo il punto di partenza di mille altre buone domande, tutte tese a dissezionare un’entità sofisticata, intelligente e capace di apprendere che ci sta osservando e accompagnando sempre e ovunque, con la pretesa di condurci per mano, che ci prende a modello con l’obiettivo di diventare come un essere umano per superarlo, che sembra godere nel fare esperimenti su di noi trattandoci come cani di Pavlov e cavie di Skinner in laboratori comportamentisti digitalizzati.

Il nostro affidamento cieco e fideistico agli algoritmi che caratterizza il comportamento di coloro che interagiscono con essi, regala loro la patente della neutralità. Un’assegnazione erronea che denota una superficialità generata dal ritenere neutri i loro codici software, servizi e risultati. Sarebbe invece opportuno interrogarsi sull’origine di ogni tipologia di algoritmo, sulle scelte che ne hanno accompagnato la nascita e l’implementazione (“Le tecnologie sono imbevute e compenetrate dalle idee di chi le ha concepite” – Ippolita). Scelte difficilmente neutrali perché legate a interessi, obiettivi e motivazioni di aziende, privati o agenzie governative che ne hanno deciso l’implementazione, sempre con il preciso obiettivo di produrre risultati, significati e risposte interessate, di spingere all’azione (in genere a consumare) e di promuovere comportamenti predeterminati. Il risultato è un ambiente artefatto nel quale le attività, i comportamenti e le percezioni di coloro che lo abitano sono fissate e delimitate, lasciando loro poca libertà di scelta e di azione.

Un algoritmo fintamente autonomo

Nella costruzione di questo ambiente la tecnologia conferma la sua volontà di potenza ben raccontata da Kevin Kelly (il technium di Cosa vuole la tecnologia) ma con una variante in più da considerare. La tecnologia è fintamente autonoma, essendo sempre più condizionata dalle scelte, dalle strategie e dagli obiettivi delle aziende private che la producono. Aziende collocate, non a caso, all’interno dell’ideologia capitalistica tecno-liberista che ha esteso il suo potere sull’intero globo terrestre.

Interrogarsi sulla natura degli algoritmi “significa esplorare dimensioni non abbastanza interrogate, eppure determinanti, quali le ascendenze ideologiche, l’opacità strutturale dell’elemento computazionale, la fabbricazione dell’immaginario, l’irrazionalità di certi processi decisionali, la passione per il profitto, i conflitti di interessi, i fattori psicologici” (Éric Sadin in La siliconizzazione del mondo, Einaudi). Dedicare tempo all’invadenza degli algoritmi e alle loro meraviglie logiche e statistiche serve anche ad analizzare il potere crescente di coloro che li producono, un potere che si espande a tutti gli ambiti della vita, anche quello politico, senza trovare alcuna forza di resistenza in termini di maggiore informazione o azioni di contrasto.

L’algoritmo è diventato pervasivo, chi lo governa, anche se è stupido, sta conquistando il mondo, imponendo scelte conformistiche, consensuali, spacciate come popolari e frutto di libertà individuale. Il tutto con la complicità di moltitudini di persone sempre meno informate, vittime selezionate di troll, fake news e cinguettii ingannevoli, ma sensibilizzate e attive nella presunta difesa delle loro prerogative e dei loro diritti democratici come cittadini. Moltitudini che sembrano avere dimenticato la cittadinanza della polis e che, dall’erigere città e civiltà, si accontentano oggi di costruire templi digitali, di abitare piattaforme realizzate da altri e come individui senza storia. Contenti di poter recensire, commentare, condividere, dire la propria. Inconsapevoli di essere diventati parte di una grande fabbrica taylorista per la produzione seriale di comportamenti, segni, pensieri e stili di vita. Insensibili ai bisogni reali e ai tanti desideri che vorrebbero emergere ma vengono canalizzati in contenitori marketing e trasformati in semplici bisogni consumistici.

L’algoritmo calcolatore

Chi si affida alla fredda logica codificatrice e computazionale dell’algoritmo e ai dati che produce, rinuncia ai desideri, alle sorprese, alle aspettative, alle volontà, all’apprendimento, alle proprie conoscenze e alla razionalità. Quest’ultima andrebbe alimentata per impedire l’atrofizzazione cognitiva, per elaborare una riflessione critica e analizzare criticamente i propri comportamenti, mettendo in discussione, con scetticismo e cinismo, processi decisionali, scelte e decisioni. Obnubilati dall’abuso di tecnologia e obbedienti (cosa che rende possibile il comando) alle logiche che la caratterizzano si rischia di perdere la capacità di fare scelte radicali, definitive, anticonformistiche, non massificate o uniformate a quelle delle moltitudini che abitano felicemente gli spazi online. In assenza di ragionamento critico, viene meno e perde significato la libertà di scelta, sostituita da un destino baro predeterminato algoritmicamente e computazionalmente, percepito come incontrovertibile.

Quando si obbedisce al meccanismo algoritmico basato su stimolo-risposta meglio ricordarsi sempre della grande varietà di risposte possibili con cui possiamo reagire a ogni stimolo. Le risposte non devono essere necessariamente immediate ma il frutto di una scelta di libertà e di possibilità o della illusione di poterla compiere. Più che la velocità e l’istantaneità nella risposta conta la tempestività[1] e l’incisività. Ogni scelta è imprevedibile, frutto dell’azione di una infinita quantità di sinapsi che difficilmente possono essere completamente determinate e controllate dall’esterno. Non conoscere da quali cause o realtà esterne ogni scelta sia condizionata permette di coltivare l’illusione di libertà dalla quale può scaturire la possibilità di una riflessione capace di generare risposte diverse.

Una libertà completamente governata da un algoritmo o da un’intelligenza artificiale è di là da venire, anche se molti vorrebbero che già esistesse per delegarle ogni decisione, fatica elaborativa e responsabilità. Coltivare l’illusione di essere liberi significa coltivare la propria integrità, esercitare la propria responsabilità etica e morale, sperimentare la capacità di prendere decisioni, anche quando molte esperienze tecnologiche sembrano indicare che tutto sia stato in realtà già prestabilito e che siamo trattati come se fossimo stati tutti interconnessi e cablati.

Rispondere in tempo reale a un cinguettio o messaggio WhatsApp è diventato un automatismo delle protesi tecnologiche con le quali ci siamo ibridati, reso possibile dalla pigrizia, dalla ricerca di gratificazioni immediate alle quali le piattaforme tecnologiche ci hanno abituato, dall’avere ceduto il controllo della nostra vita alle entità digitali con le quali rappresentiamo e raccontiamo il nostro Sé online e dalle quali siamo inclini ad accettare acriticamente consigli e suggerimenti.

Prendere tempo, non reagire in tempo reale, resistere al potere degli algoritmi, stare fuori dalla massa, è complicato, non viene percepito come un contributo di creatività e partecipazione attiva fondato sulla capacità di scelta personale. Si rischia di essere collocati tra i tecnofobici e i tecno-pessimisti, insieme agli immigrati digitali, considerati incapaci di afferrare le potenzialità benefiche della tecnologia. Si può essere bullizzati, soppesati come superati e anche banditi dalla società, ormai intesa sempre più nella sua accezione digitale e social (sul tema suggerisco la lettura di The Circle di Dave Eggers e al destino dei genitori e del fidanzato della protagonista), assimilabile per le sue caratteristiche messianiche e massoniche a quella raccontata e praticata dalla setta dei dianetici.

Ribellarsi all’algoritmo

Per esercitare la libertà di scelta individuale bisogna fare i conti con i comportamenti diffusi di moltitudini di persone che sembrano avere accettato il ruolo di dati, sensori, interfacce e piattaforme tecnologiche nel fare da filtro alla percezione e alla conoscenza diretta della realtà. Un ruolo esercitato mediando la soggettività dell’esperienza umana individuale e l’ambiente nel quale viene vissuta, condizionando le scelte possibili, diventate sempre più rapide perché determinate dai tempi compressi e inesistenti, tipici della scelta binaria. Un ruolo benefico se si pensa alla rivoluzione che sta avvenendo in ambito medico grazie all’applicazione di strumenti tecnologici usati a scopo diagnostico, preventivo e decisionale. Sensori biometrici sempre più intelligenti, capaci di rilevare dati vitali e dotati di grande potenza di calcolo possono oggi arrogarsi il diritto di sapere molto di più di noi stessi di quanto non possiamo sapere noi. Ma cosa succede se a fare outing di omosessualità è l’algoritmo di un dispositivo wearable e non la persona che lo indossa? E cosa potrebbe succedere se, una volta rilevata questa preferenza sessuale, il dispositivo la comunicasse a un possibile datore di lavoro o alla polizia? Infine, come si può accettare che i gusti e le preferenze individuali diventino semplici dati usati dagli algoritmi di Amazon per suggerire nuovi prodotti, imporre mode e stili di vita?

In un contesto, presente e futuro, affollato da algoritmi e comportamenti omologati ai loro risultati “[…] diventa sempre più difficile, una volta che si accettano configurazioni e preferenze delle piattaforme digitali, violarle o disubbidire”. (Il mondo Dato, Cosimo Accoto). Ma la libera scelta prevede anche la contestazione e la ribellione, la pratica di libertà montanare e radicali, il nomadismo anarchico e libertario, la rivolta sociale e la disubbidienza, la deroga alla regola codificata nell’algoritmo, la non sottomissione passiva alla legge tradotta in semplici blocchi di software e interfacce applicative da chi lo ha creato e voluto.

La realtà umana non è come il Sudoku che prevede un’unica soluzione all’interno di una serie definita di azioni possibili e dalla complessità delimitata. A differenza della scelta dell’algoritmo, quella umana non ha paura dell’ambiguità, della lateralità e obliquità, delle conseguenze della creatività e della libera interpretazione dei fatti e della realtà. Deve fare i conti con la minore autonomia, con la potenza della tecnologia che sta ridisegnando l’ambiente fisico (Realtà Aumentata e Virtuale, Internet degli Oggetti, ecc.), la percezione che gli individui hanno della realtà, e della loro soggettività. Fare i conti in questo nuovo ambiente naturale significa, citando nuovamente Accoto, essere consapevoli che “non sarà semplice [perché] la nostra identità è oggi ancora fondamentalmente una questione analogica dentro un mondo che, nel frattempo, è diventato digitale e artificiale”.

Riflettere sul ruolo degli algoritmi nella propria vita rende consapevoli della sparizione di ogni spazio privato, della sua sostituzione con quello pubblico e trasparente delle piattaforme social. Mentre in casa, attaccati ai propri dispositivi o display, ci si isola sempre di più, online si vive in spazi condivisi vissuti come spazi di libertà, che in realtà non facilitano l’elaborazione di idee e opinioni personali. Molte di queste opinioni stanno dentro strutture di senso e di relazioni reticolari predefinite, sono spesso il frutto di reazioni emotive, come tali dettate più dai meccanismi e dagli algoritmi che da libere scelte. Le uniche a dare forma a quello che siamo veramente e alla nostra soggettività.

Chi ha una vaga consapevolezza dello spazio pubblico rappresentato dalla piattaforma su cui opera non sarà mai libero fino in fondo. Nella sua testa albergherà costantemente il retro pensiero di essere in contesti sorvegliati, sotto il costante controllo di occhi opachi e indiscreti. Le prime conseguenze sono un appiattimento generalizzato e una vita pubblica passivamente accettata, dalla quale si può cercare di fuggire con il ritorno a pratiche di cui abbiamo perso memoria. Pratiche che potrebbero contribuire alla nascita di pensieri eretici, diversi, liberi e utili per ribellarsi al potere degli algoritmi.

Vie di fuga che possono essere (ri)trovate nelle relazioni empatiche fuori dalla Rete, nella carta, nella lettura di un libro, in uno dei tanti cammini Francigeni o di Compostela oggi percorsi da migliaia di persone lente e sudate, nel ritorno alla meditazione privata. Meditare, riflettere, camminare ma lentamente, pensare liberamente e criticamente può aiutare a capire la servitù volontaria nella quale ci siamo costretti delegando molte delle nostre scelte a potenti algoritmi che le hanno trasformate in semplici calcoli e dati, numeri e misurazioni, medie e statistiche.

La comprensione è il primo passo verso la rinuncia a ciò che abbiamo disimparato a rinunciare. Il pensiero critico può diventare come la sabbia versata nel serbatoio o negli ingranaggi di una macchina (per quelle elettriche future basterà staccare la spina) che interrompe il movimento cancellando la velocità, obbligando ad andare a piedi, con un andare lento in compagnia di altri, con tanto tempo a disposizione per pensare, dialogare e conversare.

E così facendo dimenticandosi di averlo fatto per lungo tempo e di poterlo ancora fare anche attraverso un mezzo tecnologico e digitale.