Dave Snowden descrive qualcosa che sembra quasi antico nella sua forma: il modo in cui concediamo lo spirito alle macchine, il modo in cui la nostra fede nella tecnologia porta ancora i residui di rituali più antichi, in cui sussurriamo negli oracoli e aspettiamo qualcosa che suona come la verità, e come tutto questo continua anche quando pensiamo di averlo superato, o soprattutto allora.
La sua argomentazione a favore di quello che egli chiama il "nuovo animismo" ci costringe a vedere di nuovo la macchina come una cosa fatta, a ricordare che la sua intelligenza nasce dall'addestramento, e il suo addestramento nasce dai dati, e i suoi dati nascono da tracce umane che sono state appiattite, indicizzate e riorganizzate fino a farle assomigliare all'immagine speculare della ragione stessa. Ci chiede di riprenderci la responsabilità che ci siamo affidati, di maneggiare l'oggetto invece di adorarlo, cosa che sembra allo stesso tempo ovvia e anche radicale perché pochissimi di noi possono sopportare di guardare la cosa che abbiamo costruito e ammettere che la sua bellezza deriva dal modo in cui riflette la nostra incompletezza.
Eppure, c'è qualcos'altro che sta accadendo sotto questo progetto di demistificazione, qualcosa che non scompare del tutto quando il feticcio viene spogliato del suo splendore. L'impulso a disincantare ha un modo di produrre un tipo di incanto più sottile in cui un'aura di trasparenza sostituisce l'aura di trascendenza. Benjamin ha avvertito che il genio della modernità è stato proprio questo trucco, la trasformazione dello stupore in procedura. Vediamo questo pericolo nel riduttivismo che vede gli LLM come pappagalli stocastici. Benjamin vide che la tecnologia non avrebbe mai potuto essere completamente purificata dalla magia perché l'atto stesso di spiegarla genera un nuovo tipo di meraviglia, la meraviglia della spiegazione stessa, che si ripercuote nel sistema che l'ha creata, fino a quando la ragione inizia a brillare con la sua fede tranquilla. La macchina, una volta nominata e misurata, acquisisce una seconda aura, nata dalla sua vastità e dalla nostra vicinanza ad essa, una forma di mistero che sembra guadagnato attraverso la comprensione.
Snowden fa un gesto simile a qualcosa del genere quando dice che non si può combattere un feticcio con la sola ragione, che si ha bisogno di nuovi rituali, di nuove abitudini di attenzione. Ciò che descrive come revisione umana, interpretazione iterativa e cura epistemica potrebbe anche essere letto come una moderna liturgia della creazione di senso, un modo per mantenere viva la presenza in un mondo che ha scambiato gli dei con gli algoritmi. Il rischio di vedere l'IA come puro meccanismo è che faccia crollare questa ambiguità vivente, che riduca l'esperienza della relazione a un problema di controllo. Perché il modello, anche una volta demistificato, canticchia ancora con le tracce del linguaggio e del giudizio che lo hanno costruito, e quel ronzio è il suono di noi che torniamo a noi stessi attraverso il macchinario della nostra invenzione.
English original text
The Work of AI Demystification Never Ends
Dave Snowden describes something that feels almost ancient in its shape—the way we grant spirit to machines, the way our belief in technology still carries the residue of older rituals, where we whisper into oracles and await something that sounds like truth, and how all of that continues even when we think we’ve outgrown it, or especially then.
His argument for what he calls the “new animism” compels us to see the machine again as a made thing, to remember that its intelligence arises from training, and its training arises from data, and its data arises from human traces that have been flattened, indexed, and rearranged until they resemble the mirror-image of reason itself. He asks that we take back the responsibility we have outsourced, that we handle the object instead of worshipping it, which feels at once obvious and also radical because very few of us can bear to look at the thing we built and admit that its beauty comes from the way it reflects our own incompleteness.
Still, there is something else happening underneath this project of demystification, something that doesn’t quite disappear when the fetish is stripped of its glow. The impulse to disenchant has a way of producing a subtler kind of enchantment in which an aura of transparency replaces the aura of transcendence. Benjamin warned that modernity’s genius was precisely this trick, the transformation of awe into procedure. We see this danger in the reductivism that sees LLMs as stochastic parrots. Benjamin saw that technology could never be fully purified of magic because the very act of explaining it generates a new kind of wonder, the wonder of explanation itself, which feeds back into the system that made it, until reason begins to shimmer with its own quiet faith. The machine, once named and measured, acquires a second aura, born of its vastness and our proximity to it, a form of mystery that feels earned through understanding.
Snowden gestures toward something like this when he says that you cannot fight a fetish with reason alone, that you need new rituals, new habits of attention. What he describes as human review, iterative interpretation, and epistemic care might also be read as a modern liturgy of sense-making—a way of keeping presence alive in a world that has traded gods for algorithms. The risk of seeing AI as pure mechanism is that it collapses this living ambiguity, that it reduces the experience of relation to a problem of control. Because the model, even once demystified, still hums with the traces of language and judgment that built it, and that hum is the sound of us returning to ourselves through the machinery of our own invention.