1. Che cos’è davvero l’AI?
Una semplice evoluzione della scienza informatica o un progetto politico mascherato da tecnologia? L’AI viene spesso raccontata come il risultato naturale del progresso tecnico, ma questa narrazione tende a nascondere una scelta politica, trattare i modelli della società come se fossero mere soluzioni informatiche
Shoshana Zuboff, in The Age of Surveillance Capitalism (2019), mostra come l’AI non nasca per ampliare la conoscenza umana, ma per valorizzare economicamente l’esperienza. I comportamenti quotidiani vengono catturati sotto forma di dati, analizzati e trasformati in previsioni vendibili. In questo senso, l’AI diventa l’apparato cognitivo di un nuovo regime economico, non osserva il mondo per comprenderlo, ma per anticiparlo e orientarlo secondo logiche di mercato.
Evgeny Morozov, in The Net Delusion (2011) e To Save Everything, Click Here (2013), attacca un altro livello del problema. Non si concentra tanto sulla struttura economica quanto sulla narrazione che la legittima. Per lui, l’AI è il prodotto di un’ideologia che presenta come soluzioni tecniche decisioni che sono in realtà politiche. La tecnologia viene così investita di un’aura di inevitabilità attraverso cui se un algoritmo può risolvere un problema, allora non serve discuterlo. Il conflitto sociale si trasforma in questione di ottimizzazione.
Zuboff vede nell’AI soprattutto una macchina economica mentre Morozov una costruzione ideologica. Ciò che chiamiamo “progresso” non è il risultato automatico della scienza, bensì l’esito di interessi, visioni del mondo e scelte di potere. Dietro ogni sistema intelligente non c’è solo codice, ma un’idea di società che quel codice contribuisce a rendere normale.
2. I dati
I dati vengono spesso descritti come il petrolio del XXI secolo, una risorsa neutra, abbondante, destinata a generare valore. Ma che tipo di potere producono davvero? Servono a conoscere il mondo o a renderlo più semplice, più prevedibile, quindi più controllabile?
Per Shoshana Zuboff i dati non sono semplicemente raccolti, ma vengono sottratti all’esperienza umana e convertiti in una materia prima economica. Ogni preferenza diventa surplus comportamentale, qualcosa che può essere trasformato in previsione e in profitto. Il punto non è capire meglio la realtà, ma anticipare e orientare le azioni future. È qui che si esercita quello che Zuboff chiama potere strumentale, un potere che non si impone con la forza, ma che modella i comportamenti attraverso la previsione.
Evgeny Morozov guarda allo stesso processo da un’altra angolazione. Più che sullo sfruttamento economico, insiste sull’effetto culturale e politico del cosiddetto “dataismo”, l’idea che ogni problema possa essere tradotto in numeri, variabili, indicatori. In questa visione, la complessità sociale viene compressa in metriche tecniche e sottratta al dibattito pubblico. Se un fenomeno diventa un dataset, non è più una questione politica ma un problema di ottimizzazione.
Le due letture si muovono su piani diversi ma si incastrano. Zuboff mostra come i dati diventino una nuova forma di espropriazione dove la vita quotidiana viene trasformata in risorsa economica. Morozov mostra come quella stessa trasformazione venga giustificata simbolicamente, per cui misurare significa semplificare, e semplificare significa rendere governabile senza passare dal conflitto democratico. Una descrive lo sfruttamento, l’altro la sua legittimazione culturale.
In questo intreccio, i dati non sono solo una risorsa tecnica né solo un bene economico. Diventano il linguaggio attraverso cui il potere si presenta come neutralità. Se ne deduce che i dati servano soprattutto a riscrivere il mondo in una forma che non richiede più discussione politica.
3. La democrazia
La questione democratica è forse il punto in cui il confronto tra Zuboff e Morozov diventa più netto.
Entrambi vedono nell’AI una forza che ridefinisce il rapporto tra cittadini, potere e decisione collettiva, ma ne individuano il pericolo lungo traiettorie diverse.
Per Zuboff, la minaccia arriva innanzitutto dal mercato. Il capitalismo della sorveglianza non conquista lo spazio pubblico con un colpo di Stato classico, ma con un processo più silenzioso, attraverso la costruzione di infrastrutture private che organizzano l’accesso all’informazione, orientano i consumi e modulano i comportamenti. Non si impone con la repressione, ma con l’abitudine, il “consenso informato”. In questo senso parla di un “colpo di stato dall’alto”, la sovranità popolare non viene abolita formalmente, ma aggirata attraverso sistemi che decidono cosa è visibile, rilevante, e probabile che accada. La democrazia resta in piedi come forma, mentre la capacità effettiva di scegliere viene progressivamente spostata verso piattaforme che non rispondono a logiche pubbliche ma commerciali.
Morozov osserva lo stesso indebolimento della politica, ma lo attribuisce soprattutto a una trasformazione culturale. Il rischio, per lui, non è solo che le Big Tech concentrino potere, ma che la politica rinunci a esercitarlo. Di fronte alla complessità sociale, governi e istituzioni tendono ad affidarsi agli algoritmi come se fossero strumenti neutrali di ottimizzazione, sistemi capaci di risolvere problemi senza confrontarsi con il conflitto. In questa prospettiva, la democrazia viene sostituita da una gestione tecnica delle società, dove le decisioni non sono più il risultato di un confronto tra visioni del mondo, ma di modelli predittivi e indicatori di performance.
Le due diagnosi divergono nel punto di partenza. Zuboff individua il cuore del problema nell’espansione del potere privato, Morozov nella diffusione di una mentalità tecnocratica che considera la politica inefficiente rispetto alla macchina. Ma convergono sul risultato, l’erosione della decisione collettiva. Nel primo caso, la volontà popolare viene espropriata dal mercato; nel secondo, viene neutralizzata dalla tecnica. In entrambi, la democrazia smette di essere lo spazio in cui si decide che tipo di società vogliamo essere, e diventa un sistema che amministra scelte già prese altrove.
4. AI e capitalismo
Da dove viene davvero l’AI che conosciamo oggi? Se è un prodotto storico, perché continuiamo a raccontarla come un destino naturale, come se fosse il risultato inevitabile del progresso scientifico?
Per Shoshana Zuboff, l’AI nasce dall’incontro tra capitalismo digitale e deregolamentazione neoliberale. Non è la semplice applicazione di nuove scoperte informatiche, ma la risposta a una crisi di accumulazione. La ricerca di nuove fonti di profitto ha trovato nei dati comportamentali una risorsa inesplorata. In questa prospettiva, l’AI non si sviluppa perché “più intelligente”, ma perché più utile a prevedere, orientare e monetizzare le condotte umane. La sua genealogia è economica prima ancora che tecnologica.
Evgeny Morozov guarda allo stesso processo da un’altra angolazione. L’AI, per lui, è figlia di una lunga tradizione occidentale che affida alla tecnica il compito di risolvere problemi politici e sociali. È ciò che definisce solutionism, la convinzione che ogni questione collettiva possa essere tradotta in un problema di calcolo, ottimizzazione, gestione efficiente. In questo senso, l’AI diventa il nuovo linguaggio del governo delle società, non più decisioni politiche esplicite, ma procedure tecniche che promettono neutralità.
Zuboff parte dall’economia, Morozov dall’ideologia, ma entrambi arrivano a una conclusione simile, l’AI non è un’evoluzione naturale della conoscenza, bensì il prodotto di un preciso contesto storico, in cui mercato e cultura tecnologica si rafforzano a vicenda.
E allora se l’AI è il risultato di scelte storiche, economiche e culturali, perché continuiamo a trattarla come se fosse una legge della fisica e non una decisione collettiva?
5. Critica e alternative
Se l’AI non è solo una tecnologia ma un dispositivo di potere, come si interviene su questo sistema? È sufficiente regolamentarlo, oppure occorre prima cambiare il modo in cui lo pensiamo?
Per Shoshana Zuboff, la risposta passa innanzitutto dalle istituzioni. Se il capitalismo della sorveglianza si fonda sull’appropriazione sistematica dell’esperienza umana, allora la prima forma di resistenza è giuridica e democratica: nuovi diritti digitali, limiti alla monetizzazione dei dati, riconoscimento della sovranità degli individui sulle informazioni che li riguardano. In questa prospettiva, il problema non è l’AI in sé, ma l’assenza di regole che ne disciplinino l’uso in funzione dell’interesse collettivo. Senza un intervento pubblico, l’infrastruttura tecnica resta nelle mani del mercato e il potere predittivo delle piattaforme continua a crescere senza controllo.
Morozov, invece, diffida dell’idea che basti rendere l’AI “più etica” o “più trasparente”. A suo giudizio, il rischio è che la regolazione diventi un modo per legittimare lo stesso paradigma che si vorrebbe correggere. Il vero nodo, per lui, è culturale e politico prima ancora che normativo, bisogna rimettere la tecnologia dentro il conflitto democratico, smascherando la retorica che la presenta come neutrale e inevitabile. Perciò, “chi decide cosa l’AI deve fare” e in base a quali interessi.
Le due prospettive sembrano muoversi su piani diversi: Zuboff lavora sul terreno dei diritti e delle istituzioni, Morozov su quello dell’immaginario e del linguaggio politico. Eppure, in profondità, convergono su un punto essenziale, non esiste soluzione tecnica a un problema che è politico.
Regolare senza ri-politicizzare rischia di produrre solo un controllo più raffinato, e criticare senza incidere sulle regole rischia di restare denuncia simbolica.
Entrambi, in modi diversi, chiedono di rompere l’illusione della neutralità tecnologica. L’AI non è un destino naturale da gestire con aggiustamenti etici, ma un campo di decisioni collettive che può essere orientato in direzioni diverse. La vera alternativa non è tra tecnologia buona o cattiva, ma tra un’AI governata dal mercato e un’AI sottoposta a una scelta democratica.
Conclusione
Zuboff e Morozov osservano lo stesso fenomeno da due angolazioni diverse.
Per la prima, l’intelligenza artificiale è soprattutto il motore economico di una nuova fase del capitalismo, un sistema che trasforma l’esperienza umana in dati, i dati in previsioni e le previsioni in profitto. Per il secondo, l’AI è prima di tutto una narrazione ideologica, un linguaggio che presenta come soluzioni tecniche scelte che sono in realtà politiche, e come inevitabile ciò che è frutto di decisioni storiche.
Zuboff parla di espropriazione della vita quotidiana convertita in materia prima economica. Morozov parla di depoliticizzazione del conflitto sociale tradotto in problemi di efficienza e ottimizzazione. Una smaschera il funzionamento del mercato digitale, l’altro smaschera il discorso che lo rende accettabile.
Eppure, al di là delle differenze, le loro analisi convergono sul fatto che l’AI non è solo una tecnologia, ma un dispositivo di potere, che organizza l’accesso alla conoscenza, orienta i comportamenti e ridefinisce il rapporto tra cittadini, imprese e istituzioni. In questo senso, diventa urgente stabilire chi abbia il diritto di decidere che cosa l’intelligenza artificiale debba fare e in nome di chi.
Brevi biografie degli autori:
Shoshana Zuboff (1951) è filosofa, psicologa sociale e professoressa emerita alla Harvard Business School. È considerata una delle voci più autorevoli nel dibattito contemporaneo sul rapporto tra tecnologia, potere e società. Nel corso della sua ricerca ha elaborato concetti oggi centrali come capitalismo della sorveglianza e potere strumentalista, con cui descrive una nuova logica economica fondata sull’estrazione e sulla previsione dei comportamenti umani. Con In the Age of the Smart Machine (1988) ha analizzato l’impatto delle tecnologie informatiche sul lavoro e sull’organizzazione produttiva; con The Support Economy (2002) ha studiato la trasformazione dei mercati e dell’individualizzazione dei consumi; con The Age of Surveillance Capitalism (2019) ha pubblicato la sua opera più nota, una critica sistematica al modello economico delle piattaforme digitali, interpretato come una minaccia strutturale alla democrazia e all’autonomia individuale.
Evgeny Morozov (1984) è un sociologo e giornalista bielorusso, dal 2023 anche cittadino italiano, noto per le sue analisi critiche del rapporto tra tecnologia, politica e potere. Si è imposto nel dibattito internazionale per la sua opposizione all’ottimismo tecnologico e al cosiddetto solutionism, ovvero l’idea che i problemi sociali possano essere risolti tramite soluzioni tecniche. Nei suoi lavori ha mostrato come le tecnologie digitali possano essere utilizzate per il controllo sociale, sia nei regimi autoritari sia nelle democrazie liberali, e come l’ideologia della Silicon Valley tenda a trasformare scelte politiche in questioni di efficienza tecnica. È autore di The Net Delusion (2011), in cui critica il mito della rete come strumento di liberazione democratica, e di To Save Everything, Click Here (2013), una denuncia del solutionismo tecnologico come nuova forma di depoliticizzazione. È professore invitato alla Stanford University e collabora con numerose testate internazionali.
POV nasce dall’idea di mettere a confronto due autori viventi, provenienti da ambiti diversi - filosofia, tecnologia, arte, politica - che esprimono posizioni divergenti o complementari su un tema specifico legato all’intelligenza artificiale.
Si tratta di autori che ho letto e approfondito, di cui ho caricato i testi in PDF su NotebookLM. A partire da queste fonti ho costruito una scaletta di argomenti e, con l’ausilio di GPT, ho sviluppato un confronto articolato in forma di articolo.
L’obiettivo non è giungere a una sintesi, ma realizzare una messa a fuoco tematica, far emergere i nodi conflittuali, perché è proprio nella differenza delle visioni che nascono nuove domande e strumenti utili a orientare la nostra ricerca di senso.