1. Sorveglianza o liberazione?
Nel discorso pubblico l’intelligenza artificiale viene ancora descritta come uno strumento neutrale, una tecnologia destinata ad aumentare l’efficienza, ridurre i costi, velocizzare i processi decisionali. Questa narrazione ignora che il digitale non si limita ad automatizzare funzioni preesistenti, ma ridefinisce le forme stesse del potere. È possibile immaginare un futuro digitale che non sia né un panopticon privato né una tecnoutopia governata dal mercato, ma un’infrastruttura comune capace di sostenere democrazia, diritti e autonomia?
Shoshana Zuboff interpreta l’ecosistema digitale come un’architettura di cattura comportamentale. Secondo la sua analisi, le piattaforme non offrono semplicemente servizi che traducono i comportamenti in dati, li modellano in previsioni, e li reinseriscono nei mercati come strumenti di controllo economico e sociale. La promessa di “liberazione” spesso associata all’AI è, per Zuboff, un’illusione che nasconde un processo di progressiva espropriazione epistemica, cioè la nostra esperienza quotidiana viene trasformata in materia prima per la sorveglianza commerciale. Da questa prospettiva, la tecnologia non emancipa l’individuo, lo integra in una nuova forma di dipendenza sistemica, lo ricodifica, imponendo griglie di osservazione automatiche e invisibili.
Peter Thiel propone una visione diametralmente opposta. Per lui, l’innovazione tecnologica non è solo desiderabile, ma ineluttabile. La sorveglianza non rappresenta un problema etico se produce maggiore efficienza, sicurezza e ordine. La priorità non è la tutela dei processi democratici, ma la velocità della trasformazione. In questa prospettiva, la politica è un ostacolo in quanto lenta, conflittuale, frammentata, incapace di governare la complessità del mondo contemporaneo. L’assunto implicito della Silicon Valley - di cui Thiel è uno dei più influenti portavoce - è che la tecnologia possa risolvere ciò che la politica non è più in grado di affrontare. La legittimità non deriva da un mandato democratico, ma dal successo dell’innovazione stessa.
Le due visioni riguardano il concetto stesso di libertà. Per Zuboff, la sorveglianza privata è una minaccia esistenziale per la democrazia, perché cancella l’autonomia individuale e trasferisce il potere decisionale a soggetti privati non responsabili di fronte alla collettività. Per Thiel, la libertà coincide con la deregulation, con la possibilità di innovare senza vincoli, anche a costo di ridurre la sfera del controllo democratico.
2. Il nuovo potere
Nel paradigma digitale contemporaneo il potere non si esercita più attraverso norme, decreti o strumenti di coercizione diretta, ma attraverso la produzione e il controllo della conoscenza. L’AI, insieme ai grandi ecosistemi di dati, costituisce oggi un'infrastruttura capace di raccogliere informazioni, anticipare comportamenti e orientare decisioni individuali e collettive. La governance della società non passa più dalle istituzioni politiche, ma dai soggetti tecnologici che monopolizzano la capacità di vedere, prevedere e decidere.
Shoshana Zuboff definisce questa nuova configurazione come potere strumentalizzante. Si tratta di un potere non violento nel senso classico, ma intrinsecamente pervasivo che opera attraverso l’osservazione continua, la previsione algoritmica e la modulazione dei comportamenti. Secondo Zuboff, esso prende forma nel “Grande Altro”, un’infrastruttura diffusa e quasi invisibile che raccoglie dati, li elabora e interviene nel mondo sociale anticipando ed eventualmente condizionando le nostre azioni. Chi controlla i dati esercita un vero e proprio colpo di stato epistemico, perché si arroga il diritto di stabilire che cosa è conoscibile, che cosa è reale e chi può decidere. Non è semplicemente un problema di privacy, ma di sovranità cognitiva.
Peter Thiel propone una visione diametralmente opposta. Nella sua prospettiva, la sovranità è inevitabilmente privata, l’autorità appartiene a chi innova più rapidamente e possiede le competenze tecniche per guidare la trasformazione. Le istituzioni democratiche, lente e vincolate da procedure deliberative, non potrebbero governare efficacemente l’accelerazione tecnologica.
Di conseguenza, la conoscenza computazionale non è un rischio di concentrazione del potere, ma una risorsa strategica. Essa massimizza la libertà degli innovatori, degli imprenditori e dei proprietari delle infrastrutture tecnologiche, anche a costo di ridurre lo spazio decisionale del pubblico.
È qui che la differenza tra i due si manifesta con maggiore chiarezza. Per Zuboff, la conoscenza totale annulla la libertà perché permette di anticipare e influenzare le scelte individuali, sottraendo alle persone la possibilità di autodeterminarsi; per Thiel, la conoscenza totale aumenta la libertà ma solo per coloro che la possiedono e possono usarla come leva di potere.
3. I corpi governati dagli algoritmi
Una società che delega le sue decisioni agli algoritmi può ancora considerarsi democratica? La promessa implicita delle tecnologie predittive è rassicurante, minimizzare l’errore umano, rendere più efficienti le decisioni, liberare tempo e risorse. Ciò che viene ridotto non è soltanto l’errore, ma anche lo spazio dell’umano. L’automatizzazione introduce una nuova forma di razionalità, fondata sulla previsione continua e sulla capacità di anticipare comportamenti prima ancora che vengano formulati consapevolmente. In questo scenario, la libertà cessa di essere un principio e diventa una variabile da ottimizzare all’interno di un sistema di calcolo, una libertà contenuta, guidata, resa compatibile con gli obiettivi del modello.
Nel pensiero di Shoshana Zuboff, questa trasformazione assume una dimensione politica profonda. La capacità di giudizio individuale e lo spazio decisionale comune sono il fondamento della democrazia. Un individuo automatizzato è un soggetto politico indebolito perché gradualmente privato della condizione materiale che rende possibile esercitare i propri diritti.
La posizione di Peter Thiel si colloca all’estremo opposto. Nella sua visione, l’automazione non rappresenta una minaccia alla libertà, ma un’estensione della razionalità tecnologica che permette di superare i limiti della decisione umana. L’obiettivo non è preservare l’autonomia come valore politico, ma rendere irrilevanti gli errori, le inefficienze e le lentezze che caratterizzano i sistemi umani. Ne deriva che l’autonomia diventa un concetto romantico, incompatibile con la logica della massimizzazione e con la ricerca della precisione computazionale.
Lo scontro tra queste due prospettive è dunque uno scontro tra antropologie. Per Zuboff, l’umano è irriducibile alla previsione in quanto il suo margine d’errore e la sua incertezza non sono problemi da risolvere, ma elementi da proteggere perché rendono possibile la responsabilità etica e l’autogoverno democratico. Per Thiel, al contrario, l’incertezza è un deficit e l’autonomia, una inefficienza.
4. Democrazia vs tecnocrazia
Il nodo centrale del rapporto tra intelligenza artificiale e ordine politico riguarda la legittimità del potere. Chi controlla le tecnologie che oggi mediano la maggior parte delle interazioni sociali, e quali sono le condizioni affinché la democrazia possa sopravvivere in un contesto in cui le infrastrutture digitali non sono più sotto controllo pubblico?
L’AI può, in teoria, rafforzare le istituzioni democratiche nel migliorare l’accesso alle informazioni, aumentare la trasparenza, rendere più efficienti servizi fondamentali, ma può anche produrre una concentrazione del potere e una vulnerabilità al controllo privato. La differenza la fa chi progetta, controlla e governa queste infrastrutture, e soprattutto quali regole vengono definite per limitarne l’impatto.
Secondo Shoshana Zuboff, le infrastrutture digitali sono diventate così pervasivamente intrecciate alla vita sociale da costituire un nuovo contesto politico. Senza una nuova architettura dei diritti digitali, la democrazia rischia di collassare dall’interno. Se i processi informativi, i flussi di dati e gli algoritmi predittivi sono governati da soggetti privati senza obblighi di trasparenza, la sovranità popolare viene gradualmente sostituita da una sovranità computazionale non eletta. Da qui la proposta per una “dichiarazione sintetica”, un insieme di diritti fondamentali capaci di proteggere l’umano dal potere di piattaforme e sistemi predittivi.
Per Peter Thiel la politica democratica è lenta, inefficiente, vincolata a compromessi che ostacolano l’innovazione. Per questo, nella visione di Thiel, la tecnologia deve procedere indipendentemente dalle istituzioni. Le regole non devono anticipare l’innovazione, ma la devono, al massimo, rincorrerla. È una concezione apertamente tecnocratica, in cui la capacità di innovare diventa una forma di legittimazione politica. Il potere si sposta dai parlamenti alle Big Tech.
Il contrasto tra le due prospettive è netto. Per Zuboff, solo norme chiare possono impedire che l’AI diventi uno strumento di dominio privato; per Thiel, meno politica significa più libertà, il mercato dell’innovazione sostituisce la mediazione democratica. Il conflitto tra democrazia e tecnocrazia è il terreno su cui si gioca il futuro del fare politica.
5. Chi risponde del potere dell’AI?
L’AI opera spesso attraverso sistemi complessi nei quali decisioni e conseguenze non sono attribuibili a un unico soggetto. In un contesto in cui l’AI distribuisce decisioni e conseguenze su scala globale, spesso sfuggendo alle giurisdizioni nazionali, quale forma di responsabilità è ancora praticabile e chi avrà la legittimità per esercitarla?
Secondo Shoshana Zuboff, la responsabilità non può essere lasciata al mercato né a strutture volontarie di autoregolazione. Le piattaforme tecnologiche governano ormai porzioni essenziali della vita sociale e questo implica che la responsabilità debba assumere la forma di un bene pubblico. Per Zuboff, la responsabilità è collettiva, perché collettive sono le conseguenze del capitalismo della sorveglianza. Ciò significa rafforzare la trasparenza algoritmica, il controllo democratico sulle infrastrutture digitali, e la definizione di nuovi diritti fondamentali adattati all’ambiente computazionale. La democrazia deve riappropriarsi degli strumenti per governare la tecnologia, altrimenti il potere digitale continuerà a sfuggire a qualsiasi forma di controllo pubblico.
Per il cofondatore di Palantir, la responsabilità è una funzione della proprietà, chi costruisce una tecnologia ne assume il controllo e decide come debba essere utilizzata. Il giudizio non spetta allo Stato o alle istituzioni democratiche, ma al mercato e alla capacità degli attori privati di innovare. In questa prospettiva, la responsabilità non è distribuita, ma concentrata e risiede nei soggetti che detengono la conoscenza tecnica e la capacità di sviluppare soluzioni, non in chi subisce gli effetti dell’infrastruttura digitale.
Zuboff e Thiel incarnano due modelli di responsabilità inconciliabili. Il conflitto non riguarda soltanto la governance dell’AI, ma la natura stessa del potere nell’era digitale. Da una parte, la visione che vede la responsabilità come fondamento della democrazia; dall’altra, quella che considera la responsabilità un ostacolo all’innovazione tecnologica.
Conclusione
Il confronto tra Shoshana Zuboff e Peter Thiel mette in evidenza un dualismo che attraversa in profondità la cultura politica contemporanea. Da un lato vi è la prospettiva che rivendica regole, diritti e trasparenza come condizioni imprescindibili per garantire continuità democratica nell’era digitale. È la posizione di Zuboff, che interpreta l’ecosistema tecnologico come una struttura di potere emergente, capace di ridefinire le forme della conoscenza e dell’azione collettiva. Per lei, la battaglia per il futuro dell’AI è innanzitutto una battaglia per la sovranità individuale, per la tutela dell’autonomia e contro l’appropriazione privatistica delle forme di sapere che regolano la vita sociale.
Dall’altro lato, Thiel incarna l’immaginario opposto. La sua posizione parte dall’assunto che la tecnologia sia una forza inevitabile, e che la regolazione rallenti inevitabilmente il progresso. La libertà, in questa visione, coincide con l’assenza di vincoli e l’autorità politica è un ostacolo, più che una garanzia.
Tra queste due idee di futuro si gioca oggi non soltanto il destino dell’intelligenza artificiale, ma quello della democrazia stessa. La questione cruciale riguarda il modello di società che intendiamo costruire mentre l’AI diventa l’infrastruttura invisibile di un sistema che organizza l’informazione, filtra la nostra percezione, anticipa le nostre decisioni e rende opache le relazioni di potere che lo attraversano.
Brevi biografie degli autori:
Shoshana Zuboff (1951) è filosofa, psicologa sociale e professoressa emerita alla Harvard Business School. Considerata una delle voci più influenti nel dibattito sul rapporto tra tecnologia, potere e società, ha introdotto concetti ormai centrali come “capitalismo della sorveglianza” e “potere strumentalista”. Con In the Age of the Smart Machine (1988) ha analizzato gli effetti delle nuove tecnologie sul lavoro e sulle organizzazioni; con The Support Economy (2002) ha indagato la trasformazione dei mercati e dei consumatori; e con The Age of Surveillance Capitalism (2019) ha firmato la sua opera più nota, un manifesto critico che denuncia la logica estrattiva dei dati personali come minaccia alla democrazia.
Peter Thiel (1967) è un imprenditore e investitore tedesco-americano, co-fondatore di PayPal e primo investitore esterno di Facebook. Ha fondato la società di analisi dati Palantir Technologies e il fondo di venture capital Founders Fund, sostenendo decine di startup della Silicon Valley. Con un patrimonio di oltre 11 miliardi di dollari (2024), è una delle figure più influenti della tecnologia globale. Politicamente vicino al libertarismo conservatore, ha sostenuto candidati Repubblicani, inclusa la campagna di Donald Trump. Attraverso la Thiel Foundation, finanzia progetti su AI, longevità e ricerca scientifica.
POV nasce dall’idea di mettere a confronto due autori viventi, provenienti da ambiti diversi - filosofia, tecnologia, arte, politica - che esprimono posizioni divergenti o complementari su un tema specifico legato all’intelligenza artificiale.
Si tratta di autori che ho letto e approfondito, di cui ho caricato i testi in PDF su NotebookLM. A partire da queste fonti ho costruito una scaletta di argomenti e, con l’ausilio di GPT, ho sviluppato un confronto articolato in forma di articolo.
L’obiettivo non è giungere a una sintesi, ma realizzare una messa a fuoco tematica, far emergere i nodi conflittuali, perché è proprio nella differenza delle visioni che nascono nuove domande e strumenti utili a orientare la nostra ricerca di senso.