C’è qualcosa di apparentemente paradossale nel comportamento di alcuni dei grandi protagonisti dell’intelligenza artificiale. Gli stessi ambienti economici e tecnologici che per decenni hanno guardato con diffidenza alle regole capaci di limitare la libertà d’impresa sembrano oggi chiedere che l’innovazione venga regolata, controllata, in qualche misura rallentata.
Il paradosso è ancora più evidente se lo si considera alla luce di una convinzione che ha accompagnato la modernità economica: produrre di più, innovare più rapidamente, conquistare nuovi mercati e aumentare la produttività sono stati considerati non soltanto obiettivi legittimi, ma spesso valori in sé. Ogni limite appariva come un ostacolo al progresso.
Perché dunque il produttore dovrebbe chiedere un limite al proprio stesso prodotto?
Una prima risposta è economica. La regolamentazione non è necessariamente il contrario dell’interesse dell’impresa. Quando un mercato diventa estremamente competitivo e l’accelerazione tecnologica rischia di trasformarsi in una corsa nella quale nessun concorrente può permettersi di rallentare per primo, una regola comune può diventare conveniente per tutti. Può ridurre l’incertezza, distribuire i costi della prudenza e impedire che la concorrenza spinga ciascuno a fare ciò che individualmente conviene ma che collettivamente può diventare pericoloso.
In questo senso, non siamo necessariamente davanti a una conversione etica del capitalismo. Può essere avvenuto qualcosa di più sottile: il limite è diventato economicamente interessante.
Ma proprio qui la questione economica si trasforma in una questione filosofica.
La modernità ha costruito gran parte della propria idea di progresso sull’emancipazione dai limiti. La tecnica è stata, in fondo, uno dei principali strumenti attraverso i quali l’uomo ha cercato di sottrarsi alla necessità: alla scarsità, alla fatica, alla distanza, alla malattia, all’ignoranza. Ogni nuova possibilità tecnica sembrava allargare lo spazio della libertà.
Ma ogni aumento della potenza produce anche una nuova responsabilità. Più siamo capaci di fare, più diventa importante chiederci che cosa non dovremmo fare.
È questa, forse, la questione filosofica che l’intelligenza artificiale porta oggi in primo piano. Non tanto se possiamo svilupparla ulteriormente – perché evidentemente possiamo – quanto se la possibilità tecnica costituisca di per sé una ragione sufficiente per procedere.
È una domanda antica. La tecnica moderna, però, le ha dato una dimensione nuova: per molto tempo il limite appariva imposto soprattutto dalla natura. Oggi una parte crescente dei limiti che incontriamo è prodotta dalla nostra stessa capacità di agire.
Siamo diventati, in qualche misura, produttori dei limiti ai quali dobbiamo poi sottoporci.
Qui si può comprendere anche il confronto, apparentemente lontano, con la cosiddetta «decrescita felice». Le critiche rivolte alla decrescita hanno spesso considerato l’idea di ridurre la corsa alla crescita come una forma di irrazionalità, quasi che diminuire la velocità significasse necessariamente rinunciare al progresso.
Ma il problema della decrescita, almeno nella sua versione filosoficamente più interessante, non consiste semplicemente nel produrre meno. Consiste nel mettere in discussione l’idea che più sia necessariamente sinonimo di meglio.
Ed è proprio questa equivalenza che l’intelligenza artificiale potrebbe costringerci a riconsiderare.
Non è detto che chi oggi chiede di rallentare l’IA condivida affatto la filosofia della decrescita. Anzi, potrebbe perseguire interessi completamente diversi. Tuttavia il problema che pone, forse involontariamente, è lo stesso: esiste una velocità oltre la quale il progresso quantitativo comincia a produrre effetti qualitativi che non siamo più in grado di governare?
Qui compare una distinzione decisiva: quella fra potenza e dominio.
Una società può accrescere enormemente la propria potenza tecnologica senza accrescere nella stessa misura la propria capacità di governarla. Possiamo quindi trovarci nella situazione paradossale di essere sempre più potenti e, nello stesso tempo, relativamente meno capaci di controllare le conseguenze della nostra potenza.
È il problema che Hans Jonas aveva posto, in termini generali, con il suo principio di responsabilità: quando la tecnica raggiunge una potenza capace di produrre conseguenze molto estese e difficilmente reversibili, l’etica non può più limitarsi a giudicare le intenzioni dell’agente. Deve interrogarsi anche sulle conseguenze lontane delle sue azioni.
L’intelligenza artificiale porta questo problema a un livello particolarmente radicale perché non è soltanto una nuova macchina. È una tecnologia che interviene sulle attività attraverso le quali una società pensa, decide, comunica e produce conoscenza.
E allora il limite non può essere considerato soltanto un impedimento. Può diventare una forma di autogoverno.
Qui emerge una possibile contraddizione interna alla nostra idea di progresso. Abbiamo costruito la modernità sulla liberazione dai vincoli e adesso scopriamo che una libertà senza capacità di autolimitazione può trasformarsi nel suo contrario.
La libertà, infatti, non consiste necessariamente nel poter fare tutto ciò che è tecnicamente possibile. Può consistere anche nel poter decidere di non fare qualcosa che siamo perfettamente in grado di fare. Ed è forse questo il punto più interessante della vicenda dell’IA.
Se un’impresa chiede una regolamentazione perché teme che la concorrenza la costringa ad accelerare oltre una soglia che essa stessa considera rischiosa, non siamo necessariamente davanti a un’improvvisa conversione alla filosofia del limite. Ma siamo davanti a qualcosa di filosoficamente significativo: la potenza economica e tecnologica scopre di avere bisogno di un limite esterno per poter continuare a esercitare la propria potenza.
La legge, allora, non appare più soltanto come ciò che impedisce al mercato di fare qualcosa. Può diventare ciò che impedisce al mercato di essere costretto, dalla propria stessa logica competitiva, a fare tutto ciò che può fare.
È una differenza sottile ma fondamentale. E forse è proprio qui che l’IA ci pone davanti a una domanda che riguarda molto più dell’intelligenza artificiale:
una civiltà è veramente progredita quando aumenta indefinitamente ciò che può fare, oppure quando diventa abbastanza consapevole da stabilire ciò che, pur potendo fare, sceglie di non fare?
La risposta a questa domanda non può essere affidata né alle imprese né ai governi né agli esperti di tecnologia. È una questione politica e, prima ancora, culturale: riguarda l’idea di uomo e di società che vogliamo costruire.
Perché il vero problema del progresso, alla fine, potrebbe non essere la sua velocità. Potrebbe essere la nostra capacità di fermarci, ogni tanto, a domandarci dove stiamo andando.