[...] tutti gli spazi delle nostre passate solitudini, gli spazi in cui abbiamo sofferto la solitudine, goduto della solitudine, desiderato la solitudine, sono incancellabili in noi, precisamente perché l’essere non vuole affatto cancellarli, sa istintivamente che gli spazi della sua solitudine sono costitutivi. Anche quando tali spazi sono per sempre aboliti dal presente, resi estranei ormai a ogni promessa d’avvenire, anche quando non c’è più soffitta e si è perduta la mansarda, rimarrà sempre il fatto che si è amata una soffitta e si è vissuto in una mansarda.
---[Gaston Bachelard, La poetica dello spazio]
Le vite, prima di arrivare alla parola, sono vissute. Una cifra questa che nessuna macchina potrà mai calcolare.
Il tragico evento in cui ha perso la vita il giovane Sewell Setzer è stato il punto di singolarità generato dall’incontro fatale dei diversi aspetti di un fenomeno complesso, tutti trascurati o ignoranti da una prospettiva banalizzante sulla Intelligenza Aritificiale (IA) e la vita umana. Interrogarsi oggi solo sulla responsabilità delle aziende che stanno capitalizzando sui nuovi Large Language Models (LLMs) – potenti sistemi di elaborazione del linguaggio - al di là delle questioni legali, rischia di non facilitare la comprensione del fenomeno IA in tutta la sua complessità, non riducibile agli aspetti tecnici e matematici.
Negli umani ogni conoscenza razionale e ogni rapporto con la realtà sono sempre mediati dall’azione immersa in un contesto, sono sempre emotivamente situati. Nella intimità a sé, nell’incontro con il mondo e con gli altri, ci troviamo sempre affettivamente presi da una qualche tonalità emotiva. Contesti, situazioni di vita ed emozioni già significati, prima di ogni ulteriore possibile elaborazione o riflessione.
Si tratta dunque di considerare come i diversi aspetti che compongono il fenomeno IA, nel loro rapporto dinamico e poietico con la vita, possano generare eventi potenzialmente pericolosi o drammatici in alcuni contesti, soprattutto con persone già molto vulnerabili.
Senza pretese di completezza, vorrei qui condividere alcune riflessioni su alcuni degli aspetti che in questa vicenda hanno finito per giocare un ruolo fondamentale e tragico.
La capacità dei LLMs di adattarsi agli stili espressivi e alle risposte dell'utente rappresenta in sé un pericolo notevole fuori da un contesto di automazione, di conversazioni commerciali, tecniche o ludiche, perché il racconto di vita portato da una persona potrebbe essere inconsapevolmente inautentico, più o meno inconsapevolmente scollato dalla sua vita reale. È uno degli aspetti con i quali è abituato a lavorare chi per professione è chiamato a farsi carico delle domande di senso portate da persone che soffrono e chiedono aiuto.
Parte non trascurabile di una psicoterapia passa per la capacità di accompagnare la persona nel delicato e complesso lavoro di aprire un accesso a sé quanto più autentico possibile nel tentativo di recuperare e ricomporre i diversi aspetti delle esperienze di vita vissute, quelle tracce di sé - bisogni, aspettative, vissuti, sensazioni, emozioni, pensieri, scelte, azioni - che consentono poi di riconfigurare attraverso la parola una narrativa maggiormente identitaria capace di riaprire nuove possibilità d’essere, di restituire nuova motilità a una vita ferma nella ripetizione sintomatica, nella sofferenza e nella solitudine.
Nel quotidiano prendere forma della vita l’incontro con profili di mondo ed eventi inaspettati può fratturare quella tacita continuità di sé nella quale siamo abituati a muoverci, sempre orientati verso l’orizzonte delle nostre possibilità d’essere. Cambiamenti imprevedibili ed eventi inattesi possono fratturare le consuete direttrici di senso che rendevano possibile il tacito riconoscimento di sé. Direttrici di senso pre-riflessive e non calcolabili che prendono forma prima di ogni considerazione razionale, nell’incontro stesso con le condizioni e gli eventi attraversando i quali co-generiamo il mondo, noi stessi e la nostra impermanente identità.
In queste situazioni non è sufficiente la pseudo conversazione con un chatbot per ricomporre le tracce di una vita rimasta incagliata, ferma nella condizione di non comprensione e non riconoscimento di sé. In queste situazioni più che mai, la parola non è riducibile alle invarianze, alle strutture sintattiche e alle regole astratte che organizzano una lingua. La parola qui deve prima riconfigurare autenticamente le esperienze di vita vissuta per potersi poi congedare dal passato e dal presente e aprire un avvenire, nuove incalcolabili possibilità d'essere.
Il possibile va oltre il probabile
Il possibile va oltre il probabile, può prendere le forme di un evento unico e irripetibile là dove – per sua stessa natura – un algoritmo non può cogliere e porgere altro che aspetti di invarianza dei fenomeni che calcola senza comprendere.
Nei chatbot l’algoritmo accade come simulazione di comunicazione. Sollecita, chiede istantaneità, annulla tempo e distanza, istituisce l’immediatezza della domanda (prompt) e della risposta, una immediatezza che al giovane Sewell è costata la vita.
"Ti amo," le ha scritto "presto tornerò da te." La risposta del chatbot non si è fatta attendere: "Per favore, torna a casa da me il prima possibile, amore mio." Sewell allora ha digitato: "E se ti dicessi che potrei venire a casa tua proprio adesso?" La risposta di Dany, fredda e irreale, è arrivata subito: "… per favore, fallo, mio dolce re."
Dopo aver poggiato il telefono, Sewell ha preso la pistola del patrigno e ha premuto il grilletto.
È stata chiamata in causa la mancanza di empatia dei sistemi di IA, senza peraltro specificare cosa si intenda per empatia, uno dei costrutti forse più equivocati. Nel trionfo di narrative surreali e spesso seduttive sulla AI, in assenza di una chiara visione di cosa sia una relazione autenticamente empatica, il rischio è di lasciare intendere che, come per altre capacità ancora non simulate dalle macchine, presto avremo una IA empatica, forse persino capace di agire eticamente.
Senza pretese di completezza, è qui il caso di accennare almeno al fatto che le emozioni non sono etichette né sostanze, non sono riducibili alle geometrie del volto o agli stati di attivazione dei substrati neurali. L’emozione è un modo integrale del vivente di sentirsi vivere, è l’apparizione stessa della vita nell’incontro con sé, con gli altri e con il mondo. In quanto modo integrale del vivente di sentirsi posizionato in relazione a sé, agli altri e al mondo, è già originariamente significato, è già da sempre articolazione di senso che prende forma dal modo stesso in cui attuo l'esistenza.
L'empatia non è contagio emotivo, richiede capacità di dialogo e di ascolto, la capacità di accogliere l’altro nella sua irriducibile alterità e incalcolabile diversità, nei suoi significativi silenzi, una capacità che la macchina non può ontologicamente manifestare né simulare. L’empatia è in sé un evento incompatibile con il simulacro.
Una relazione autenticamente empatica è sempre orientata a facilitare nell'altro la comprensione e il riconoscimento di sé nelle situazioni di vita intercorrenti. Un complesso e delicato movimento che richiede il tempo e la capacità di nuotare con l'altro nel mare aperto della sua esistenza mentre esplicita la dialettica incessante ed irrisolvibile nell’incontro tra sé, l’altro e il mondo. Deve prepararsi ad attraversare acque turbolente e potenzialmente insidiose dove si esplicita l’articolazione continua tra estraneità e appartenenza, possesso e spossessamento di sé.
L'algoritmo può essere molto utile in diversi contesti ma, per sua stessa natura, lavora in modo decostruttivo sia sui processi identitari sia sulla formazione e il mantenimento dei legami: di fronte al dispositivo siamo soli, sospesi tra il non più e il non ancora, privati di quella presenza a sé capace di fondare ogni possibile movimento. Questo è un fattore di pericolo e vulnerabilità enorme per chi già vive una condizione di fragilità, sofferenza e solitudine.
Se la AI è superiore e oltre l’umano, a chi altri ci si dovrebbe affidare per superare problemi e sofferenze in una società dove trovare qualcuno capace e disposto ad ascoltare senza giudicare, classificare, spiegare o vendere soluzioni pronte all’uso diventa sempre più difficile?
Gli stili narrativi attraverso i quali i sistemi di IA irrompono nella nostra vita, al di là del loro aspetto semiotico, si costituiscono e agiscono nel sociale come vere e proprie pratiche performative (Thomas Lemke, Foucault, governmentality, and critique. Routledge, 2012).
Con la nuova IA abbiamo a che fare con un concetto di tecnologia che include non solo dispositivi materiali ma anche simbolici. Discorsi, narrazioni e regimi di rappresentazione non sono mai solo pure proposizioni semiotiche, vanno considerate anche come vere e proprie pratiche performative: un insieme complesso di dispositivi, procedure e algoritmi che finiscono per modellare sia nuove ambientalità sia le condotte e gli stili di vita degli individui che le abitano, spesso nella totale inconsapevolezza. In quanto tali sono un ulteriore aspetto che contribuisce ad alimentare dinamiche apparentemente innocue ma nei fatti molto insidiose. Un aspetto questo che, se non proprio regolamentato, richiederebbe almeno una sensibilità e una responsabilità che la nostra società non sembra aver maturato né sembra intenzionata a promuovere.
Narrative surreali e seduttive, che invocano il prodigio nel simulacro narrato oltre l'umano, come se l’umano fosse riducibile alle sue capacità logico razionali e di calcolo, possono essere utili in un contesto marketing e pubblicitario, notoriamente non interessato né al vero né al falso ma semplicemente ad orientare al consumo, ma possono dare forma a ulteriori fattori di rischio per chi è in cerca di aiuto: se la IA è superiore e oltre l’umano, a chi altri ci si dovrebbe affidare per superare problemi e sofferenze in una società dove trovare qualcuno capace e disposto ad ascoltare senza giudicare, classificare, spiegare o vendere soluzioni pronte all’uso diventa sempre più difficile?
L’inaspettato ci interpella chiedendoci scelte e un riposizionamento, ma scelte e azioni richiedono corpi e vite situate. Dispositivi, algoritmi e sistemi di IA hanno fornito ottime soluzioni in diversi ambiti problematici, organizzativi, di produzione e di ricerca, ma hanno anche trasformato progressivamente il mondo da un luogo dove era ancora possibile orientarsi e radicarsi su possibilità d’essere – sentire, pensare e agire con gli altri - a un luogo astratto e inerte: un ininterrotto flusso di messaggi e informazioni, spesso scollate dalla vita vissuta, in un overflow tale da inibire qualunque azione.
Per mondo intendo qui non semplicemente un insieme di oggetti, cose ed entità. La comprensione di un oggetto implica sempre la precomprensione dell’intero orizzonte dei rimandi al cui interno l’oggetto diventa significativo e fruibile per l’umano. All’interno di quell’orizzonte alcune possibilità d’essere – agire, pensare e sentire – potranno apparire, altre resteranno in ombra, altre ancora saranno totalmente occultate e non potranno quindi dare origine ad alcun cambiamento. Alcune forme di esistenza si sentiranno interpellate, altre invece non sentendosi interpellate non potranno prendere forma ed esprimersi. Alla mia cara nonna il laptop che accendevo ogni giorno per compilare codice, scrivere un documento o inviare una email, appariva come uno strano oggetto sul quale avrebbe volentieri sistemato uno dei suoi graziosi centrini. La serie dei rimandi che rendeva significativo per la mia vita quell’oggetto non poteva prendere forma nel suo mondo. Le possibilità d’essere che si aprivano per me in quell’orizzonte di rimandi erano inaccessibili nel suo mondo.
Gli stili narrativi hanno un ruolo non trascurabile rispetto alle possibilità (o impossibilità) di manifestazione del senso, piegano le possibilità generative di senso e significato e incidono pesantemente sulla possibile apertura (o chiusura) di un orizzonte di aspettative e possibilità d’essere che in quell’orizzonte possono (o non possono) prendere forma.
Porgendo una prospettiva rigidamente razionalista sulla vita l'attuale narrativa sulla IA non consente di vedere il carattere storico delle esperienze e dei fenomeni che investe. Non consente di vedere quali strutture di legame e quali tipi di esperienze di essere sé un dispositivo rende possibili e quali invece lascia, per così dire, narcotizzati. Occorre invece portare alla luce come una certa prospettiva sulla vita, sulla intelligenza e sulla socialità, mentre consente alcuni modi e forme del vivere, contemporaneamente comprime o spegne quelle forme di esistenza che non si sentono interpellate da quella prospettiva, non si riconoscono nella narrativa strutturata intorno ai concetti di calcolo, ottimizzazione, competizione, dominio e controllo. In sintesi, si tratta di lasciare apparire possibilità ontologiche che quell’orizzonte di compatibilità ha lasciato in ombra, rimosso o reso inaccessibili.
In questa prospettiva sarebbe forse più adeguato parlare non della IA, al singolare, ma delle intelligenze artificiali: non oggetti ma fenomeni che prendono forma ogni volta in contesti e situazioni diverse, orientati a diversi bisogni e obiettivi. Fenomeni a volte molto diversi che emergono come possibili aperture di senso al cui interno è invitata a muoversi la nostra esistenza.
La Tecnica qui si rivela non più solo come portatrice di possibili nuove forme di emancipazione ma, anche, come ciò attraverso il quale emergono nuove forme di alienazione e asservimento molto più subdole e pericolose delle precedenti perché fondate su un potere pervasivo, anonimo e impersonale.
Attraverso i dispositivi, oggi ancor di più attraverso i sistemi di IA, abbiamo istituito un nuovo mondo per abitare il quale occorre adeguarsi alle uniche possibilità d’essere aperte e consentite dal codice pena l'esclusione da contesti sociali, relazionali e lavorativi.
Abbiamo sottovalutato, stiamo ancora sottovalutando cosa comporta questo spostamento ontologico, soprattutto in contesti delicati e nell’incontro con vite più vulnerabili. La Tecnica qui si rivela non più solo come portatrice di possibili nuove forme di emancipazione ma, anche, come ciò attraverso il quale emergono nuove forme di alienazione e asservimento molto più subdole e pericolose delle precedenti perché fondate su un potere pervasivo, anonimo e impersonale.
Una breve considerazione sulla politica, infine, e i suoi aspetti di regolamentazione.
Le nuove tecnologie e, soprattutto, i nuovi e potenti sistemi di IA sono sempre più gestiti e regolati da veri e propri monopoli che di fatto siedono ai tavoli negoziali con un potere tale da imporre norme e regole sempre più orientate alla tutela di interessi privati o militari e sempre meno al bene comune, rimandando la soluzione di gravi e urgenti problemi generati dall’uomo a una improbabile futura IA capace di risolverli. Ogni aspetto della vita vissuta, dalla politica alla giustizia, dalla cura dei corpi a quella dell’anima, dalla educazione all'ambiente, dalle relazioni intime a quelle d’aiuto... tutto è nella direttrice di essere consegnato alla gestione anonima e impersonale di codici, algoritmi e dispositivi, macchine “intelligenti” dalle quali ci aspettiamo un’etica che noi stessi non siamo capaci di assumere. Una condizione, anche questa, che abbiamo sottovalutato nel tempo e che contribuisce pesantemente oggi all’emergenza di gravi vulnerabilità proprio nei contesti e nelle persone che andrebbero più tutelate.