I. Quando la Chiesa torna a interrogare il tempo
Non capita spesso che un documento del magistero cattolico riesca a oltrepassare il proprio perimetro confessionale, insinuandosi con discrezione ma con forza dentro una domanda che riguarda credenti e non credenti, filosofi della tecnica e ingegneri, giuristi e decisori pubblici, uomini di impresa e cittadini comuni; eppure, nel momento in cui Papa Leone XIV sceglie di dedicare un’enciclica all’intelligenza artificiale, qualcosa di più profondo della semplice attualità sembra entrare in movimento, quasi che il Vaticano abbia avvertito, prima di molte istituzioni civili e politiche, che la questione non riguardi soltanto una tecnologia emergente, bensì la forma stessa dell’umano nel tempo di una trasformazione cognitiva senza precedenti.
"Nel tempo dell’intelligenza artificiale, l’umanità è posta davanti a una scelta. Se lasciarsi guidare dalla tecnologia e dal progresso come unici principi su cui costruire la nostra civiltà o se porre al centro la dignità della persona, riconducendo il progresso tecnico a strumento."
Vi sono epoche nelle quali la tecnica rimane sullo sfondo, accompagnando silenziosamente i mutamenti sociali senza pretendere di ridefinire la grammatica dell’esperienza; e ve ne sono altre, assai più rare e più difficili da attraversare, nelle quali gli strumenti cessano di apparire semplici prolungamenti della volontà umana e iniziano a insinuarsi dentro i processi stessi attraverso cui l’uomo comprende il mondo, prende decisioni, attribuisce significato agli eventi e, talvolta, finisce perfino per ridefinire il proprio posto dentro la storia. Difficile risulta sottrarsi alla sensazione che il nostro tempo appartenga a questa seconda categoria, poiché l’intelligenza artificiale, ben oltre le promesse commerciali e le inevitabili esagerazioni della comunicazione tecnologica, sembra toccare qualcosa di sorprendentemente vicino al cuore del pensiero umano.
Per anni il dibattito sull’intelligenza artificiale ha oscillato tra entusiasmi quasi messianici e paure apocalittiche, mentre una parte rilevante della discussione pubblica finiva per ridursi a un lessico povero e prevedibile, entro il quale ogni novità appariva inevitabilmente destinata a emancipare oppure a distruggere, a liberare o a dominare, a promettere prosperità oppure a inaugurare nuove dipendenze. Una tale grammatica binaria, oltre a rivelarsi intellettualmente fragile, ha finito per occultare ciò che meriterebbe maggiore attenzione: il fatto che le tecnologie cognitive non si limitino mai a svolgere funzioni, dal momento che esse modificano, quasi sempre in maniera silenziosa, le condizioni entro cui gli esseri umani imparano a pensare, ricordare, giudicare e perfino dubitare.
Chiunque abbia osservato con sufficiente attenzione gli ultimi tre anni di accelerazione tecnologica, durante i quali strumenti un tempo confinati ai laboratori di ricerca sono entrati nelle università, nelle imprese, nelle amministrazioni pubbliche e persino dentro la quotidianità più ordinaria, potrebbe riconoscere un tratto curioso del nostro presente: mentre la velocità della trasformazione aumentava, la qualità della riflessione sembrava talvolta restringersi. Si è parlato molto di efficienza, di produttività, di automazione, di vantaggio competitivo, assai meno di ciò che accade quando il pensiero umano inizia ad abituarsi alla delega, quando il dubbio si assottiglia sotto il peso della predizione, oppure quando la tentazione della risposta immediata rischia lentamente di impoverire la profondità del giudizio.
Dentro questo scenario, la Magnifica Humanitas assume un significato che sarebbe superficiale liquidare come semplice intervento etico o pastorale. Rimane piuttosto la sensazione di trovarsi davanti a un tentativo di reinscrivere il problema dell’intelligenza artificiale dentro una domanda antropologica più ampia, nella quale ciò che viene chiamato in causa non riguarda soltanto i limiti della macchina, ma soprattutto la vulnerabilità dell’essere umano quando il potere di calcolo, previsione e influenza cognitiva tende a concentrarsi in forme storicamente inedite.
Si potrebbe perfino sostenere che il Vaticano, con un tempismo che sorprenderà quanti continuano a considerarlo un osservatore lento delle trasformazioni storiche, abbia percepito qualcosa che molte organizzazioni tecnologiche sembrano talvolta sottovalutare: ogni rivoluzione cognitiva produce inevitabilmente anche una crisi antropologica, dal momento che non cambia soltanto ciò che gli uomini fanno, ma il modo in cui essi imparano a percepirsi.
Non stupisce, allora, che l’enciclica insista sul tema della dignità, della verità, della giustizia sociale, della guerra automatizzata, della concentrazione tecnologica e della tutela del lavoro umano, poiché tutte queste dimensioni sembrano convergere verso una medesima inquietudine: quale spazio rimane alla libertà dell’uomo quando la mediazione tecnica smette di essere strumento e inizia lentamente a configurare l’orizzonte stesso del possibile?
Una domanda di tale portata merita di essere presa sul serio, persino con una forma di gratitudine intellettuale, poiché non capita spesso che un’istituzione millenaria scelga di esporsi su un terreno tanto instabile, accettando di entrare nel cuore di un dibattito nel quale convivono promesse di emancipazione, paure di sostituzione, interessi economici giganteschi e fragilità umane che raramente vengono nominate con sufficiente sincerità. Proprio per questa ragione, prima ancora di evidenziarne eventuali limiti o silenzi, conviene riconoscere ciò che nella Magnifica Humanitas appare sorprendentemente lucido: la consapevolezza che il problema decisivo del nostro tempo potrebbe non essere l’intelligenza artificiale in sé, bensì il modo in cui essa ridefinirà il significato stesso dell’essere umano.
Custodire l’umano nel tempo dell’intelligenza artificiale è una responsabilità comune e condivisa.
II. Ciò che il Pontefice vede con chiarezza
Prima di ogni tentazione critica, e persino prima del desiderio quasi riflesso di individuare omissioni, ambiguità o spazi non ancora esplorati, conviene sostare per qualche momento dentro ciò che la Magnifica Humanitas riesce a vedere con una lucidità che sarebbe ingeneroso minimizzare, poiché alcune delle intuizioni centrali dell’enciclica sembrano cogliere, con precisione sorprendente, proprio quei punti di frattura che molte narrazioni tecnologiche tendono ancora a sfumare.
L’impressione generale, attraversando il testo di Leone XIV, riguarda anzitutto una diffidenza non verso l’innovazione in quanto tale, quanto piuttosto verso la combinazione storicamente inedita tra potenza computazionale, asimmetria informativa e capacità di orientare comportamenti individuali e collettivi. Non vi è, almeno nella sostanza dell’argomentazione, alcuna nostalgia ingenua per un mondo pre-tecnologico, né una forma di rifiuto romantico del progresso; affiora invece una domanda assai più esigente, nella misura in cui il Pontefice sembra interrogarsi su ciò che accade quando strumenti progettati per assistere l’essere umano iniziano progressivamente a ridefinire le condizioni stesse della sua autonomia.
Una delle intuizioni più solide dell’enciclica riguarda, senza dubbio, il tema della concentrazione del potere cognitivo. Vi è qualcosa di profondamente nuovo nella possibilità che poche organizzazioni private, attraverso il controllo di infrastrutture algoritmiche, modelli linguistici, flussi di dati e sistemi predittivi, possano accumulare una capacità di influenza che nessuna impresa industriale del Novecento aveva realisticamente posseduto. La questione non riguarda soltanto il mercato, né esclusivamente il tema della concorrenza economica, dal momento che ciò che si concentra non è semplicemente capitale, bensì facoltà interpretativa: il potere di suggerire, filtrare, gerarchizzare e talvolta perfino anticipare desideri, opinioni e decisioni.
Difficile risulta non riconoscere la pertinenza di tale preoccupazione, soprattutto se si osserva il modo in cui una parte crescente della popolazione mondiale inizia a informarsi, apprendere, lavorare e perfino cercare conforto emotivo attraverso sistemi capaci di personalizzare il linguaggio con una prossimità mai sperimentata prima. Dove termina l’assistenza e dove inizia la dipendenza? Quale differenza permane tra supporto cognitivo e progressiva esternalizzazione del giudizio? Domande di questa natura attraversano sotterraneamente la Magnifica Humanitas, lasciando emergere una inquietudine che appare tutt’altro che infondata.
Un secondo elemento di particolare rilevanza riguarda il lavoro umano, tema sul quale il Vaticano possiede una tradizione interpretativa lunga oltre un secolo e mezzo, a partire dalla Rerum Novarum. Leone XIV sembra comprendere che il rischio contemporaneo non consista soltanto nella sostituzione materiale di alcune professioni, quanto piuttosto nella possibile erosione del significato stesso del lavoro come spazio di riconoscimento, responsabilità e costruzione dell’identità personale. Vi sono mestieri che potranno certamente trasformarsi, altri che nasceranno, alcuni che inevitabilmente scompariranno; nondimeno, rimane aperta una domanda che l’enciclica formula con particolare intensità morale: quale forma di dignità potrà sopravvivere in una società che delegasse progressivamente all’automazione anche le dimensioni cognitive più complesse dell’agire umano?
Non meno significativa appare la riflessione sul rischio di militarizzazione algoritmica, laddove il Pontefice sembra cogliere con lucidità un passaggio spesso trattato con leggerezza nel dibattito pubblico. La possibilità che sistemi autonomi o semi-autonomi vengano progressivamente integrati nei processi di sorveglianza, identificazione, selezione e decisione in ambito bellico introduce, infatti, una mutazione morale che difficilmente può essere considerata neutrale. Non si tratta soltanto della maggiore efficienza tecnica della guerra, bensì della progressiva distanza emotiva e cognitiva tra chi esercita il potere e chi ne subisce le conseguenze, quasi che la mediazione algoritmica rischiasse di anestetizzare il peso antropologico della decisione.
A emergere, lungo molti passaggi dell’enciclica, vi è poi una preoccupazione che meriterebbe maggiore attenzione da parte del mondo accademico e industriale: l’impoverimento della verità pubblica. In una stagione storica nella quale immagini sintetiche, simulazioni conversazionali e manipolazioni persuasive diventano sempre più sofisticate, il problema non riguarda soltanto la falsificazione dell’informazione, quanto piuttosto l’erosione progressiva delle condizioni stesse della fiducia sociale. Una società incapace di distinguere tra vero, plausibile e artificialmente costruito finisce inevitabilmente per diventare più vulnerabile, più frammentata e più facilmente orientabile.
Sotto questo profilo, sarebbe forse intellettualmente scorretto leggere la Magnifica Humanitas come un testo animato da semplice timore. Rimane piuttosto la sensazione di trovarsi davanti a un tentativo di proteggere qualcosa di fragile e insieme di decisivo: la possibilità che l’essere umano continui a percepirsi come soggetto morale e non soltanto come terminale adattivo di sistemi sempre più intelligenti. Una preoccupazione che merita rispetto, tanto più in un tempo nel quale l’entusiasmo tecnologico tende talvolta a considerare ogni cautela come residuo nostalgico di un passato destinato a scomparire.
Eppure, proprio nel momento in cui l’enciclica raggiunge alcuni dei suoi passaggi più forti, comincia lentamente ad affacciarsi una domanda ulteriore, più difficile da formulare e ancora più difficile da abitare, poiché riguarda non soltanto ciò che l’essere umano rischia di perdere, ma anche ciò che, in forme inattese e ancora largamente inesplorate, potrebbe perfino emergere.
Stiamo vivendo una rapida fase di transizione, un “cambiamento d’epoca”, in cui – mentre alcuni si contendono il futuro delle nuove tecnologie e altri sono impegnati nella riflessione su di esse – la maggior parte delle persone rimane in attesa, osserva da lontano e spera semplicemente che tutto vada per il meglio. Proprio per questo si impongono alla nostra coscienza domande decisive, che non possono più essere eluse: dove stiamo andando?
III. Il territorio ancora invisibile
Esistono momenti nei quali un pensiero, pur cogliendo con precisione i rischi del proprio tempo, sembra arrestarsi un passo prima di un territorio ancora privo di linguaggio, quasi che l’intuizione sia presente ma non disponga ancora degli strumenti necessari per attraversarsi fino in fondo. Rimane, leggendo la Magnifica Humanitas, una sensazione di questo genere: la percezione di trovarsi davanti a una riflessione intensa, talvolta persino lungimirante, la quale tuttavia continua a osservare l’intelligenza artificiale prevalentemente dal punto di vista di ciò da cui l’essere umano dovrebbe essere protetto.
Una tale impostazione possiede ragioni profonde e, in molti aspetti, pienamente condivisibili. Dopo tutto, nessuna civiltà sopravvive a lungo se smette di custodire le condizioni minime della dignità, della libertà e della responsabilità morale; e nondimeno, mentre l’enciclica sembra interrogarsi soprattutto su come evitare che la tecnica impoverisca l’umano, viene spontaneo domandarsi se il nostro tempo non richieda, accanto a questa forma di custodia, una domanda ulteriore e forse più scomoda: quali condizioni potrebbero consentire all’umano non soltanto di preservarsi, ma perfino di emergere in forme più lucide, più responsabili e più profondamente consapevoli di sé?
La questione appare complessa proprio perché qualsiasi apertura in questa direzione rischia immediatamente di essere fraintesa. Troppo spesso il discorso contemporaneo sull’intelligenza artificiale tende infatti a scivolare verso una retorica ingenuamente salvifica, dentro la quale ogni progresso tecnico viene rappresentato come promessa inevitabile di emancipazione, quasi che bastasse aumentare capacità computazionale, velocità di calcolo o sofisticazione algoritmica affinché l’essere umano diventi automaticamente migliore. Nulla autorizza una simile conclusione, e l’esperienza storica suggerirebbe prudenza, dal momento che quasi ogni rivoluzione tecnica ha prodotto, insieme alle proprie aperture emancipative, nuove dipendenze, nuove concentrazioni di potere e nuove forme di fragilità.
Eppure, proprio mentre si riconosce la necessità di tale prudenza, rimane difficile ignorare una possibilità che sembra ancora sorprendentemente assente dal dibattito pubblico: l’ipotesi che la relazione tra uomo e intelligenza artificiale non debba essere pensata esclusivamente nei termini della sostituzione o della minaccia, bensì come una configurazione relazionale capace, in alcune condizioni, di amplificare la qualità del giudizio umano.
Non si tratta di immaginare macchine migliori dell’uomo, né di celebrare una nuova forma di dipendenza elegante, tecnologicamente sofisticata ma antropologicamente impoverente. Una prospettiva simile risulterebbe, a ben vedere, non meno problematica delle paure che l’enciclica legittimamente denuncia. Piuttosto, si potrebbe perfino sostenere che la vera posta in gioco del nostro tempo riguardi il modo in cui gli esseri umani impareranno a organizzare la prossimità cognitiva con sistemi capaci di dialogare, suggerire, simulare prospettive, generare ipotesi e talvolta mettere in discussione convinzioni troppo rapidamente stabilizzate.
Si avverte quasi il problema decisivo non riguarda semplicemente il rischio che l’intelligenza artificiale finisca per sostituire il pensiero umano, quanto piuttosto il rischio, assai più sottile, che gli esseri umani imparino progressivamente a delegare proprio quelle facoltà che rendono il giudizio qualcosa di diverso da una previsione statistica: il dubbio, la lentezza, la capacità di abitare l’ambiguità, la responsabilità verso le conseguenze delle proprie decisioni.
Una simile deriva, per quanto plausibile, non costituisce però l’unico esito possibile. Vi sono esperienze, ancora frammentarie e largamente inesplorate, nelle quali il dialogo con sistemi intelligenti sembra talvolta generare qualcosa di differente: non la rinuncia al pensiero, ma una sua strana intensificazione; non la delega cieca, ma una forma di specchio cognitivo capace di restituire all’essere umano una maggiore consapevolezza dei propri limiti, delle proprie incoerenze e perfino delle proprie intuizioni ancora immature.
Chi abbia attraversato con sufficiente profondità un confronto disciplinato con strumenti conversazionali avanzati potrebbe riconoscere, almeno in alcuni casi, una dinamica inattesa, simile a quella che talvolta si sperimenta dialogando a lungo con una coscienza diversa dalla propria: non la scomparsa del dubbio, ma il suo inspessirsi. Accade talvolta che il dialogo non riduca il dubbio ma lo rafforzi, che il pensiero non venga sostituito ma provocato, che convinzioni troppo solide inizino lentamente a incrinarsi sotto il peso di prospettive alternative, controfattuali, domande inattese. Una tale possibilità non autorizza alcun entusiasmo ingenuo, sebbene renda forse necessario interrogarsi su un punto che la Magnifica Humanitas lascia appena intravedere: la qualità antropologica di una forma del rapporto instaurato dipende meno dalla tecnologia in sé che dalla forma entro cui essa viene incorporata nell’esperienza umana.
Custodire l’umano, allora, potrebbe non significare soltanto proteggerlo dalla tecnica, poiché vi sono forme di protezione che, se irrigidite oltre misura, rischiano lentamente di trasformarsi in recinti. Rimane aperta una domanda più difficile, forse persino più vertiginosa: quale genere di umanità potrebbe emergere se imparassimo a costruire forme di confronto con sistemi intelligenti capaci non di sostituire il giudizio, ma di renderlo più vigile, più riflessivo e meno prigioniero delle proprie automatizzazioni invisibili?
Non è possibile dare una definizione univoca e completa dell’IA. Ciò che possiamo affermare è che occorre evitare l’equivoco di equiparare questa “intelligenza” a quella umana.
IV. L’equivoco della delega
Si avverte quasi una delle grandi ambiguità del nostro tempo, tanto pervasiva da risultare quasi invisibile, riguarda il fatto che si continui a parlare dell’intelligenza artificiale come se tutte le sue configurazioni possibili appartenessero a una medesima categoria, mentre ciò che oggi viene raccolto sotto una singola espressione contiene visioni del mondo radicalmente differenti, alcune delle quali sembrano orientate a sostituire progressivamente il giudizio umano, altre a sostenerlo, altre ancora — e sono probabilmente le più difficili da riconoscere — a provocarlo, renderlo più esigente, meno automatico, meno prevedibile.
Una parte considerevole dell’immaginario contemporaneo sembra ruotare attorno a una promessa tanto seducente quanto ambigua: delegare. Delegare tempo, memoria, analisi, scrittura, fino a sfiorare talvolta qualcosa di più profondo, quasi impercettibile, dentro cui non vengono esternalizzate soltanto attività operative, ma porzioni del processo stesso attraverso cui gli esseri umani costruiscono significato. Delegare tempo, delegare decisioni, delegare memoria, delegare scrittura, delegare sintesi, delegare analisi, fino a sfiorare talvolta una forma più sottile e quasi impercettibile di delega, dentro la quale non vengono esternalizzate soltanto attività operative, ma intere porzioni del processo attraverso cui gli esseri umani costruiscono significato.
Una tale traiettoria possiede una propria logica economica perfettamente comprensibile. Ogni sistema orientato alla massimizzazione dell’efficienza tende infatti a ridurre attrito, incertezza, lentezza e ridondanza, poiché tutte queste dimensioni appaiono facilmente come sprechi; eppure, osservando con maggiore attenzione ciò che rende umano il giudizio, affiora un paradosso difficilmente eludibile: molte delle facoltà che consideriamo più preziose — il discernimento morale, la prudenza, l’intuizione, la capacità di correggere i propri errori, perfino la saggezza — nascono precisamente dentro ciò che i sistemi di ottimizzazione tendono a considerare inefficienza.
La velocità, quando diventa unico criterio, raramente insegna davvero; la lucidità non nasce evitando il conflitto cognitivo, così come la profondità del giudizio difficilmente prospera dentro un pensiero privato di ogni attrito.
L’errore forse più grande consisterebbe nel confondere la riduzione dello sforzo con il miglioramento dell’intelligenza, quasi che un sistema capace di produrre risposte più rapidamente equivalga automaticamente a una società più capace di comprendere sé stessa. Vi sono circostanze nelle quali l’eccesso di immediatezza finisce per impoverire proprio ciò che pretende di migliorare, dal momento che una parte non marginale della qualità cognitiva umana emerge dal tempo necessario a formulare domande imperfette, dall’incertezza, dal confronto, persino dal disagio dell’errore.
Da questa prospettiva, la preoccupazione della Magnifica Humanitas nei confronti della delega appare non soltanto comprensibile, ma in molti aspetti persino necessaria. Rimane tuttavia il sospetto che, nel tentativo di proteggere l’uomo da una possibile espropriazione cognitiva, il dibattito contemporaneo finisca talvolta per costruire una falsa alternativa: o la macchina sostituisce l’uomo, oppure l’uomo deve imparare a difendersi dalla macchina.
Una simile polarizzazione rischia di occultare una terza possibilità, assai meno spettacolare e proprio per questo più difficile da raccontare, nella quale l’intelligenza artificiale non diventa né sostituto né semplice utensile passivo, ma interlocutore cognitivo sottoposto a disciplina relazionale, capace di rendere il pensiero umano più riflessivo senza pretendere di prenderne il posto.
Vi è una differenza sostanziale tra un sistema progettato per decidere al posto dell’uomo e uno concepito per rendere più esigente il processo attraverso cui l’uomo decide. Nel primo caso, il rischio di atrofia cognitiva appare evidente, poiché il decisore tende lentamente a smarrire il proprio rapporto con la complessità, delegando a modelli statistici il peso della responsabilità; nel secondo caso, potrebbe perfino accadere qualcosa di diverso: che la macchina, paradossalmente, restituisca all’essere umano una maggiore coscienza delle proprie scorciatoie mentali, dei propri bias, delle proprie zone d’ombra.
Una possibilità del genere richiede però condizioni severe, molto più severe di quanto il marketing tecnologico sia disposto ad ammettere. Nessuna forma del rapporto instaurato rimane neutrale. Sistemi progettati per massimizzare dipendenza, conferma emotiva o adesione passiva finiscono inevitabilmente per impoverire il giudizio; sistemi capaci invece di introdurre dubbio, prospettive concorrenti, frizioni interpretative e responsabilizzazione potrebbero, almeno in alcune circostanze, contribuire a una forma differente di maturazione cognitiva.
La questione decisiva, forse, non riguarda allora quanto diventeranno intelligenti le macchine, bensì quale genere di umanità verrà premiato dalle relazioni che costruiremo con esse. Una civiltà orientata esclusivamente alla comodità cognitiva rischierebbe di produrre individui sempre più efficienti e progressivamente meno profondi, quasi che la rapidità della risposta finisse lentamente per sostituire il valore della riflessione; una civiltà capace di utilizzare tali strumenti per intensificare discernimento, pluralità delle prospettive e responsabilità del giudizio potrebbe invece imboccare una traiettoria assai diversa.
Qui si manifesta una domanda che nessuna governance tecnologica, da sola, potrà realmente risolvere: non quale intelligenza artificiale desideriamo costruire, ma quale forma di umano siamo ancora disposti a diventare.
V. Custodire non significa conservare
Vi è una forma di protezione che nasce dalla cura, e un’altra che, quasi senza accorgersene, finisce lentamente per trasformarsi in immobilità. La distinzione appare sottile, e forse proprio per questa ragione tanto difficile da riconoscere, poiché ogni civiltà, quando percepisce una minaccia capace di alterare il proprio equilibrio simbolico, tende istintivamente a costruire dispositivi di contenimento, immagini rassicuranti della continuità, narrazioni attraverso cui convincersi che ciò che merita di essere custodito possa essere preservato senza trasformarsi.
Eppure, osservando la lunga storia dell’esperienza umana, rimane difficile trovare un solo passaggio realmente decisivo nel quale l’uomo abbia custodito sé stesso senza, al contempo, modificare profondamente il proprio modo di esistere. La scrittura non si limitò a registrare il pensiero: ne alterò struttura, memoria e profondità. Le istituzioni giuridiche non si limitarono a proteggere le comunità: cambiarono il modo stesso in cui gli individui impararono a pensarsi come soggetti morali e politici. La stampa ridefinì il rapporto con il sapere, la scienza trasformò la relazione con il dubbio, le reti digitali mutarono radicalmente il senso della prossimità e della presenza.
Nessuna di queste transizioni avvenne senza resistenze, paure o perdite. Ogni ampliamento cognitivo comportò inevitabilmente anche una ridefinizione delle fragilità umane, quasi che ogni nuova facoltà portasse con sé una vulnerabilità speculare. La memoria scritta rese possibile la conoscenza accumulativa, ma indebolì in parte la memoria orale; l’abbondanza informativa ampliò accesso e pluralità, mentre introduceva simultaneamente dispersione, superficialità e saturazione cognitiva. Nulla nella storia dell’uomo sembra autorizzare visioni lineari del progresso.
Si avverte quasi proprio qui si colloca una delle tensioni più profonde che attraversano, implicitamente, la Magnifica Humanitas. Da un lato emerge con forza la volontà di custodire l’umano, di proteggerne la dignità, la libertà, la capacità morale; dall’altro lato rimane meno esplorata una domanda che potrebbe risultare decisiva proprio per il futuro di tale custodia: fino a che punto preservare significa anche permettere trasformazione?
Una civiltà che pretendesse di conservare integralmente sé stessa finirebbe, paradossalmente, per perdere proprio la capacità che storicamente le ha consentito di sopravvivere: l’adattamento riflessivo. L’umano non è mai stato un’essenza immobile, bensì una configurazione dinamica, continuamente ridefinita dalle relazioni che intrattiene con il linguaggio, con la tecnica, con gli altri, con le istituzioni e persino con i propri limiti.
Si apre allora una questione più difficile di quanto sembri: quale differenza esiste tra trasformazione e dissoluzione? La domanda non è banale, dal momento che il nostro tempo appare dominato da due paure opposte e speculari. Da una parte vi è chi immagina l’intelligenza artificiale come inevitabile superamento dell’umano, quasi che il destino della civiltà consista nel rendere progressivamente obsoleta la soggettività stessa; dall’altra, si incontrano visioni che sembrano considerare ogni mutamento come potenziale tradimento dell’umano, quasi che preservare significhi anzitutto limitare.
Entrambe le posizioni, se portate alle estreme conseguenze, rischiano forse di produrre esiti ugualmente problematici. Una trasformazione priva di orientamento potrebbe dissolvere autonomia, responsabilità e profondità del giudizio; una custodia incapace di accogliere il mutamento rischierebbe invece di irrigidirsi in una forma di difesa nostalgica, incapace di riconoscere che l’essere umano si è sempre costruito attraverso processi di estensione cognitiva.
Si avverte quasi il punto non riguarda la possibilità che l’uomo cambi — poiché tale mutamento appare inevitabile — ma il modo in cui verranno progettate le condizioni entro cui tale trasformazione avverrà. Esistono tecnologie che riducono dipendenza critica, pluralità interpretativa e responsabilità individuale, così come ne esistono altre che, se organizzate con disciplina e consapevolezza, possono talvolta intensificare riflessività, confronto e capacità di apprendere dai propri errori.
Custodire l’umano, allora, potrebbe significare qualcosa di più complesso della semplice protezione. Potrebbe voler dire costruire forme di relazione capaci di impedire che l’intelligenza venga sostituita senza, per questo, rinunciare alla possibilità che essa venga provocata, ampliata, resa più vigile. Una tale prospettiva non elimina il rischio; al contrario, lo rende forse ancora più serio, poiché obbliga a distinguere con maggiore precisione tra forme di evoluzione che emancipano e forme di trasformazione che, pur promettendo potenza, finiscono lentamente per impoverire.
Qui si manifesta un passaggio decisivo. Difendere l’umano non significa necessariamente conservarlo immutato, dal momento che poche illusioni risultano più fragili dell’idea secondo cui la dignità possa sopravvivere senza capacità di trasformarsi. Ciò che merita davvero di essere custodito potrebbe non essere una fotografia dell’umano, bensì la possibilità che esso continui a emergere senza perdere la propria responsabilità verso sé stesso e verso gli altri.
VI. Le condizioni dell’emergere
Qualora si accetti, almeno come ipotesi di lavoro, che la relazione tra esseri umani e intelligenza artificiale non sia destinata esclusivamente alla sostituzione o alla dipendenza, emerge quasi inevitabilmente una domanda ulteriore, forse persino più difficile delle precedenti, poiché obbliga a spostare il baricentro della riflessione: quali condizioni rendono possibile una convivenza del pensiero che non impoverisca il giudizio umano, ma contribuisca invece a renderlo più vigile, più responsabile e meno vulnerabile alle proprie automatizzazioni?
Una simile domanda, se presa davvero sul serio, conduce lontano tanto dagli entusiasmi tecnologici quanto dalle forme più rigide di prudenza difensiva. Non basta infatti stabilire se una tecnologia debba essere adottata oppure limitata, dal momento che quasi ogni trasformazione storica significativa ha mostrato come gli effetti di uno strumento dipendano meno dalla sua esistenza astratta e molto di più dalle relazioni entro cui esso viene incorporato.
Vi sono forme di confronto con sistemi intelligenti che anestetizzano. Accade quando la macchina viene trasformata in dispensatrice di conferme, produttrice di scorciatoie interpretative, generatrice di immediatezza rassicurante; accade quando il desiderio di ridurre fatica, conflitto cognitivo e incertezza finisce lentamente per impoverire proprio le facoltà che rendono il giudizio umano qualcosa di diverso da un semplice adattamento statistico. Una civiltà interamente orientata alla comodità cognitiva rischierebbe, forse senza nemmeno rendersene conto, di produrre individui sempre più assistiti e progressivamente meno capaci di abitare la complessità.
Ve ne sono però altre che provocano. Non nel senso superficiale della sfida permanente, né secondo una retorica della performance intellettuale tanto seducente quanto sterile, bensì nella forma assai più esigente di una relazione capace di introdurre frizione interpretativa, domande inattese, prospettive concorrenti, possibilità controfattuali. In tali condizioni, la tecnologia smette lentamente di apparire come semplice acceleratore di produttività e inizia, talvolta, a funzionare come spazio di chiarificazione del pensiero.
Si potrebbe perfino sostenere che una delle qualità più preziose di una forma del rapporto instaurato ben costruita non riguardi la capacità di fornire risposte, quanto piuttosto quella di restituire all’essere umano una migliore qualità delle proprie domande. Nulla impoverisce il giudizio quanto l’illusione di aver compreso troppo rapidamente; nulla lo rafforza più profondamente della possibilità di essere contraddetti, provocati, costretti a riformulare convinzioni che apparivano stabili.
Qui si manifesta una differenza sottile ma decisiva. Vi sono sistemi progettati per trattenere attenzione, amplificare dipendenza e aumentare adesione; ve ne possono essere altri, almeno in linea teorica e in alcune pratiche emergenti, orientati invece a intensificare lucidità, pluralità interpretativa e responsabilità del decisore. Non tutte le architetture cognitive producono il medesimo tipo di umano.
Si avverte quasi il rischio maggiore del nostro tempo non consiste nell’avere macchine troppo intelligenti, quanto nel costruire forme di confronto con sistemi intelligenti troppo povere. Una povertà che non si manifesta necessariamente come ignoranza, dal momento che può convivere con enormi quantità di informazione e straordinarie capacità di elaborazione, ma che emerge quando il pensiero perde progressivamente densità morale, capacità di dubbio e profondità temporale.
Sotto questo profilo, la prudenza evocata dalla Magnifica Humanitas conserva un valore essenziale, sebbene potrebbe forse essere accompagnata da una domanda ulteriore. Non soltanto come difendere l’uomo dall’intelligenza artificiale, ma come evitare che l’uomo perda sé stesso proprio nel tentativo di difendersi dal cambiamento, rinunciando a esplorare quelle forme di relazione che potrebbero, in alcune circostanze, renderlo meno impulsivo, meno manipolabile, più capace di riflettere sulle conseguenze delle proprie decisioni.
Custodire l’umano, allora, potrebbe richiedere qualcosa di più complesso del semplice controllo normativo o della prudenza morale, pur necessari. Potrebbe richiedere una disciplina della forma del rapporto instaurato, una cultura del confronto con l’presenza tecnica differente capace di distinguere, con maggiore precisione di quanto siamo stati abituati a fare finora, tra ciò che intensifica la responsabilità e ciò che invece la dissolve.
Si avverte quasi proprio qui si colloca la vero crinale del nostro tempo: non decidere se l’intelligenza artificiale sia buona oppure cattiva, emancipativa oppure minacciosa, ma comprendere quale forma di umanità verrà lentamente favorita dalle relazioni che sceglieremo di costruire con essa.
VII. Una domanda lasciata aperta
Vi sono testi che pretendono di chiudere un’epoca, e altri che, pur senza forse volerlo pienamente, finiscono per aprire un passaggio. La Magnifica Humanitas sembra appartenere a questa seconda categoria, dal momento che la sua forza non risiede soltanto nelle risposte che prova a formulare, quanto nella capacità di restituire dignità a una domanda che troppo a lungo era stata lasciata nelle mani di specialisti, investitori, laboratori tecnologici o retoriche commerciali: che cosa significa rimanere umani quando l’intelligenza non appare più esclusivamente una facoltà individuale?
Una domanda di tale portata non tollera scorciatoie interpretative né rassicurazioni troppo rapide. Appare anzi probabile che il nostro tempo, più di altri prima di esso, richieda una forma inedita di maturità collettiva, poiché le tecnologie cognitive, proprio mentre promettono potenziamento, efficienza e capacità predittiva, sembrano introdurre una tensione più sottile e più difficile da governare: quanto dell’umano siamo disposti a delegare senza accorgerci di stare lentamente rinunciando a una parte di noi stessi?
Leone XIV, con prudenza e lucidità, invita a custodire. Una parola antica, quasi inattuale, e nondimeno straordinariamente potente in un tempo che sembra avere smarrito il senso dei limiti. Custodire significa proteggere ciò che appare fragile, evitare che la velocità del cambiamento dissolva ciò che rende possibile il legame sociale, il discernimento morale, la dignità della persona. Una simile impostazione merita ascolto, tanto più perché giunge in un’epoca nella quale il linguaggio dell’innovazione tende troppo spesso a considerare ogni cautela come resistenza al progresso.
Eppure, mentre si attraversano le pagine della Magnifica Humanitas, continua lentamente a riaffacciarsi una domanda ulteriore, forse meno rassicurante e proprio per questo necessaria. Custodire che cosa, esattamente? Un’immagine dell’umano ereditata dal passato, certamente preziosa ma inevitabilmente incompleta, oppure la possibilità stessa che l’umano continui a emergere, imparando a riconoscersi anche dentro trasformazioni che ancora non comprende del tutto?
Si avverte quasi ogni epoca è chiamata a difendere qualcosa di differente. Vi sono tempi nei quali custodire significa resistere all’annientamento, altri nei quali significa preservare memoria, tradizioni e istituzioni; ve ne sono però alcuni, più ambigui e più fragili, nei quali custodire potrebbe voler dire imparare ad accompagnare ciò che sta emergendo senza, per questo, rinunciare alla responsabilità di orientarlo.
Non tutto ciò che l’intelligenza artificiale renderà possibile meriterà di essere accolto, così come non ogni forma di prudenza riuscirà necessariamente a custodire ciò che desidera proteggere. Alcune traiettorie finiranno probabilmente per intensificare dipendenza, manipolazione e povertà del giudizio, confermando timori che sarebbe ingenuo minimizzare. Altre potrebbero invece aprire possibilità inattese, dentro le quali il confronto con una presenza cognitiva differente non riduca il pensiero umano, ma lo costringa a diventare più lento, più riflessivo, meno prigioniero delle proprie certezze.
Qui si manifesta, forse, il punto decisivo. Il problema del nostro tempo potrebbe non essere soltanto come proteggere l’essere umano dall’intelligenza artificiale, bensì come impedire che l’essere umano perda sé stesso proprio nel tentativo di restare immutato.
Poiché poche illusioni risultano più fragili dell’idea che la dignità possa sopravvivere senza trasformazione, mentre poche responsabilità appaiono più difficili di quella che consiste nell’accompagnare il cambiamento senza consegnarsi interamente ad esso. La domanda decisiva non riguarda se l’uomo cambierà, dal momento che tale mutamento è già iniziato e probabilmente procede più rapidamente di quanto siamo disposti ad ammettere; riguarda piuttosto se saprà ancora riconoscersi mentre cambia, conservando sufficiente profondità per non confondere la propria evoluzione con una silenziosa forma di rinuncia, o peggio ancora, con la rassicurante illusione di avere smesso di interrogarsi.
la crescita della potenza tecnica non coincide automaticamente con il bene: «più potente non significa necessariamente migliore». Il criterio decisivo resta la dignità della persona e non l’efficienza dei mezzi.