No, questo non è stato scritto ieri sera; è l'ennesima prova del perché l'astoricismo dell'IA e il disprezzo per le critiche essenziali continuino ad essere due tra le tante questioni convenientemente lasciate da parte o censurate da coloro che si affrettano a utilizzare e promuovere l'IA e, più recentemente, i suoi tipi degenerativi, in tutto, ovunque, in qualsiasi momento:
"Quali aspetti della realtà sono e quali non sono incorporati in un modello è interamente una funzione dello scopo del costruttore di modelli. Ma non importa quale sia lo scopo, un modello, e qui mi occupo soprattutto di modelli computerizzati di aspetti della realtà, deve necessariamente "tralasciare quasi tutto" ciò che è effettivamente presente nella cosa reale. Quindi ciò che si può imparare dalla manipolazione del modello è strettamente limitato *in ogni caso*. Chiunque conosca e apprezzi questo fatto, e lo tenga a mente mentre insegna sull'uso dei computer, ha la possibilità di immunizzare i suoi studenti dal credere o dal fare affermazioni eccessive per gran parte del loro lavoro al computer. In realtà, però, pochi insegnanti (a qualsiasi livello!) conoscono e apprezzano limitazioni di questo tipo. Né c'è molta, se non nessuna, enfasi su tali questioni nella maggior parte dei curricula universitari di informatica. Questioni come queste sono considerate 'meramente' filosofiche". (Enfasi anche nel testo originale, in corsivo)
[…]
"L'effetto sui bambini dell'essere esposti all'idolatria del tipo di razionalità richiesta (almeno per il momento) per programmare i computer, dell'ulteriore elevazione del calcolo al di sopra del giudizio, deve essere compreso nel contesto della cultura in cui si svolge. La nostra cultura [...] è già quasi convinta che l'unica conoscenza legittima che possiamo acquisire del nostro mondo è quella prodotta dalla scienza. Tutti i pensieri, i sogni, i sentimenti, in verità tutte le altre fonti di intuizione sono già state delegittimate. L'indottrinamento delle menti dei nostri figli con l'idolatria informatica semplicistica e disinformata, e questo è quasi certamente ciò che la maggior parte dell'istruzione informatica è e sarà, è un fenomeno pandemico".
Questo era Joseph Weizenbaum nel 1983 nella "Prefazione all'edizione Penguin del 1984" del suo libro "Computer Power and Human Reason: From judgement to calculation" che terminò di scrivere nel 1975.
Nel 1975! E quelle sopra sono parole scritte nel 1983, valide al 100% da allora!
Sempre dalla Prefazione del 1984:
"Una domanda da porsi è se il libro ha fatto la differenza nel mondo. Ho spesso pensato che ora sento molto meno affermazioni e previsioni euforiche da parte della comunità dell'intelligenza artificiale (AI) rispetto a prima della pubblicazione del libro. Forse le mie critiche alla comunità dell'IA hanno avuto questo effetto".
Fa un'enorme differenza se alzarsi in piedi e rifiutare, rifiutare, contestare e opporsi alle sciocchezze dell'IA.
L'ignoranza su ciò che gli algoritmi basati sull'intelligenza artificiale possono effettivamente fare e, nelle parole di Weizenbaum, "l'idolatria informatica semplicistica e disinformata" in cui stiamo annegando, continueranno a influenzare la cognizione umana e il progresso senza ritorno se non fermiamo questa follia.
English original text
Computer Power and Human Reason: From Judgment to Calculation
No, this was not written yesterday night; it is yet another evidence why AI ahistoricism and disregard for essential criticism continue to be two among many issues conveniently left aside or censored by those rushing to use and promote AI and, more recently its degenerative types, in everything, everywhere, anytime:
„What aspects of reality are and what are not embodied in a model is entirely a function of the model builder’s purpose. But no matter what the purpose, a model, and here I am concerned especially with computer models of aspects of reality, must necessarily *leave out almost everything* that is actually present in the real thing. Hence what can be learned from manipulating the model is strictly limited *in every case*. Whoever knows and appreciates this fact, and keeps it in mind while teaching about the use of computers, has a chance to immunize his or her students against believing or making excessive claims for much of their computer work. In reality, however, few teachers (at any level!) know and appreciate limitations of this kind. Nor is there much, if any, emphasis on such issues in most university computer-science curricula. Matters like these are deemed to be ‘merely’ philosophical.” (Emphasis also in the original text, in cursives)
[…]
“The effect on children of being exposed to the idolization of the kind of rationality required (at least for the present) to program computers, of the further elevation of calculation above judgement, must be understood in the context of the culture in which it takes place. Our culture […] is already nearly committed to the proposition that the only legitimate knowledge we can gain of our world is that yielded by science. All thinking, dreaming, feeling, indeed all other sources of insight have already been delegitimated. The indoctrination of our children’s minds with simplistic and uninformed computer idolatry, and that is almost certainly what most computer instruction is and will be, is a pandemic phenomenon.”
That was Joseph Weizenbaum in 1983 in the "Preface to the 1984 Penguin Edition" of his book “Computer Power and Human Reason: From judgement to calculation” which he finished writing in 1975.
In 1975! And those above are words written in 1983, 100% valid since!
Also from the 1984 Preface:
“One question to ask is whether the book has made any difference in the world. I’ve often thought that I now hear very much less of the euphoric claiming and predicting from the artificial intelligence (AI) community than before the book’s publication. Perhaps my criticisms of the AI community had that effect.”
It *does* make a huge difference whether or not to stand up and reject, refuse, contest, and oppose the AI nonsense.
The ignorance about what AI-based algorithms can actually do and, in Weizenbaum’s words, “the simplistic and uninformed computer idolatry” we are drowning in, will continue to affect human cognition and progress with no return if we don’t stop this madness.