Così recita l'ultima favola della buonanotte della Silicon Valley.
È il sogno bagnato di un ingegnere del software: la fragilità umana sottoposta a debug, la nostra specie rielaborata per l'efficienza, la politica disordinata sovrascritta dalla grazia algoritmica di una macchina benevola: la complessità sociale rattoppata in un aggiornamento finale...
Il caso della "dittatura benigna dell'IA" arriva in quattro versioni. In primo luogo, la superiorità cognitiva: le macchine pensano più velocemente, più profondamente e meno prevenute di qualsiasi leader umano. In secondo luogo, l'imparzialità: libera dall'avidità, dall'ego e dagli interessi particolari, l'IA agisce con pura oggettività. Terzo, l'efficienza utopica: gli algoritmi ottimizzano la società per l'abbondanza e la felicità, liberandoci per il tempo libero e la creatività. Quarto, il coordinamento globale: una "nuvola di governatori dell'IA" risolve perfettamente le crisi politiche, unendoci sotto un unico piano razionale.
Per quanto seducente possa sembrare, il re filosofo dell'intelligenza artificiale non ha vestiti. La superiorità cognitiva confonde la velocità con la saggezza: la leadership riguarda i fini, non solo i mezzi, sempre all'interno del contesto. L'imparzialità è un mito: gli algoritmi intrisi di valori e punti ciechi perpetuano i pregiudizi e si evolvono in modo imprevedibile. L'efficienza non è giustizia: l'allocazione delle risorse è una questione politica: "a chi, con quale diritto e per quale scopo?" Il coordinamento globale senza legittimità democratica – supponendo che le nazioni si sottomettano all'"IA unica" – è tecnocrazia su larga scala, che sopprime l'azione e il dissenso. Per non parlare della sorveglianza pervasiva che richiede.
Il difetto più profondo risiede nei suoi presupposti: che la saggezza possa sorgere senza formazione morale; che la legittimità politica può essere ingegnerizzata; che il conflitto sociale può essere risolto piuttosto che navigato. Ma la previsione non è una spiegazione. L'IA può ottimizzare le probabilità, ma non può cogliere la causalità o deliberare tra visioni concorrenti del bene. Meta-eticamente, manca di autoriflessività. Politicamente, fa collassare il pluralismo in probabilità epistemica.
Storicamente, come mostra Acemoglu, i benefici sociali non sono mai automatici; Bisogna lottare per loro. hashtag#Technology rivoluzioni raramente offrono guadagni equi all'"umanità" in generale. Per lo più, arricchiscono i loro inventori, proprietari e finanziatori. Forse è per questo che la fantasia sboccia più vividamente tra gli ingegneri di Google: la macchina è al comando, ma funziona ancora per loro!
Aspettarsi che hashtag#AI risolva la società non è solo ignorante, ma anche sconsiderato: la salvezza dell'umanità non verrà dalla neutralità algoritmica, ma dal coraggio di definire lo scopo dell'IA e di assicurarsi che non ci controlli mai. Questa responsabilità non possiamo – e non dobbiamo – esternalizzarla.
Original English version
BLESSED BE THE BENEVOLENT AGI: The Fairy Tale of the Programmer King
Imagine this.
You wake up and the world has finally grown up. No politicians, no corruption, no wars. A serene, all-knowing AI governs our planet with incorruptible clarity. Healthcare is flawless, resource allocation instant, crime predicted out of existence. Every climate target met ahead of schedule. Cities hum in perfect balance; traffic flows like poetry, citizen needs are met before even voiced.
So goes Silicon Valley’s latest bedtime story.
It is the wet dream of a software engineer: human frailty debugged, our species refactored for efficiency, messy politics overwritten by the algorithmic grace of a benevolent machine—societal complexity patched in a final update...
The case for “benign AI dictatorship” arrives in four flavors. First, cognitive superiority: machines think faster, deeper, and less biased than any human leader. Second, impartiality: free from greed, ego, and special interests, AI acts with pure objectivity. Third, utopian efficiency: algorithms optimise society for abundance and happiness, freeing us for leisure and creativity. Fourth, global coordination: an “AI governor cloud” resolves political crises perfectly, uniting us under a single rational plan.
Seductive as it sounds, the AI-philosopher king has no clothes. Cognitive superiority mistakes speed for wisdom—leadership concerns ends, not just means, always within context. Impartiality is a myth: algorithms steeped in values and blind spots perpetuate biases and evolve unpredictably. Efficiency is not justice: resource allocation is a political question—“to whom, by what right, and for what purpose?” Global coordination without democratic legitimacy—assuming nations submit to the "One AI"—is technocracy at scale, suppressing agency and dissent. Not to mention the pervasive surveillance it demands.
The deeper flaw lies in its assumptions: that wisdom can arise without moral formation; that political legitimacy can be engineered; that social conflict can be solved rather than navigated. But prediction is not explanation. AI may optimise probabilities but it cannot grasp causality or deliberate among competing visions of the good. Meta-ethically, it lacks self-reflexivity. Politically, it collapses pluralism into epistemic likeliness.
Historically, as Acemoglu shows, social benefits are never automatic; they must be fought for. hashtag#Technology revolutions rarely deliver equitable gains to “humanity” at large. Mostly, they enrich their inventors, owners, and financiers. Perhaps that's why the fantasy most vividly blossoms among Google engineers: the machine is in charge, but it still works for them!
Expecting hashtag#AI to solve society is not only ignorant, but reckless—humanity’s salvation will not come from algorithmic neutrality, but from the courage to define AI’s purpose and to ensure it never controls us. This responsibility we cannot—and must not—outsource.