La tecnologia non basta, occorre un dialogo tra scienze naturali e umane: è il passaggio cruciale per una convivenza sicura con questa nuova forma di intelligenza.
Le nostre creature sono diverse da noi e talvolta più forti. Per poterci convivere dobbiamo imparare a conoscerle Vagliano curricula, concedono mutui, scelgono le notizie che leggiamo: le macchine intelligenti sono entrate nelle nostre vite, ma non sono come ce le aspettavamo.
Fanno molte delle cose che volevamo, e anche qualcuna in più, ma non possiamo capirle o ragionare con loro, perché il loro comportamento è in realtà guidato da relazioni statistiche ricavate da quantità sovrumane di dati. Eppure possono essere in certi casi più potenti di noi: ci osservano continuamente, e prendono decisioni al nostro posto.
E allora come incorporarle nella nostra società senza rischi ed effetti collaterali?
Questo libro - rigoroso, pungente, originale nell'approccio - ci spiega come siamo arrivati sin qui, e indica il percorso che ci aspetta prima di poterci fidare di questi nuovi agenti «alieni».
La tecnologia non basta, occorre un dialogo tra scienze naturali e umane: è il passaggio cruciale per una convivenza sicura con questa nuova forma di intelligenza.
Recensione
La recensione è di L. Emil Abirascid, journalist, founder and editor-in-chief of Startupbusiness, the first magazine on the Italian startup and innovation ecosystem.
Il libro scritto da Nello Cristianini e pubblicato da Il Mulino analizza le tecnologie e l'impatto dell'intelligenza artificiale con vantaggi e rischi.
L'intelligenza umana non è l’unica possibile, non sarebbe corretto immaginarla come il riferimento universale così come non era corretto considerare la Terra al centro dell’universo. I modelli statistici operano in modo totalmente diverso da quelli logici e quindi, pur riuscendo a produrre risultati anche sovrumani, diventano indecifrabili ed è poi difficile comprenderne i meccanismi, cosa che aumenta il rischio dell’azione ‘alla lettera’ che non tiene in considerazione scenari e contesti ed è potenzialmente dannosa se non governata e governabile. I sistemi di intelligenza artificiale sono in grado di raccogliere informazioni anche dove esse non sono espresse in modo esplicito e utilizzarle per produrre risultati che possono essere in contrasto con aspetti etici o di sicurezza. Si chiama ‘La Scorciatoia’ il libro scritto da Nello Cristianini, docente di intelligenza artificiale all’Università britannica di Bath, edito da Il Mulino (214 pagine, 16 euro) e che si presenta con il sottotitolo ‘Come le macchine sono diventate intelligenti senza pensare in modo umano’. Intendiamoci il saggio di Cristianini non è contro l’intelligenza artificiale, ciò che fa è analizzare come l’IA abbia preso delle scorciatoie per arrivare a produrre risultati e come tale processo è lontano dal modo in cui ragiona la mente umana e come esso, per questo motivo, possa diventare oscuro e incomprensibile e quindi non più analizzabile e governabile. La completa analisi del docente approfondisce aspetti, mette in luce pro e contro delle tecnologie che già usiamo tutti i giorni come, per esempio, i sistemi di raccomandazione, definisce in modo chiaro la struttura con cui l’intelligenza artificiale più avanzata opera e dipana la storia di questa evoluzione tecnologica portando a conoscenza del lettore i nomi e il lavoro di scienziati, ricercatori, filosofi, psicologi che negli anni si sono occupati del tema.
Agenti intelligenti, macchine sociali
La scorciatoia non vale solo per il modello dell’intelligenza artificiale che non è logico ma statistico, ma anche per le modalità di raccolta dei dati, che sono ‘in natura’ quindi già disponibili in abbondanza in modo esplicito ma anche implicito e, a volte, senza che chi produce quell’informazione sia poi a conoscenza dell’uso che l’IA ne fa. L’autore riflette sui meccanismi delle macchine sociali prendendo a esempio sia il regno animale con formiche e insetti impollinatori, sia opere letterarie, ma anche la storia dei videogiochi. Non ha senso fermare l’intelligenza artificiale, non ha senso tornare indietro anche perché abbiamo evoluto le infrastrutture nella direzione del digitale e smantellato quelle precedenti e quindi sarebbe anche impossibile, ciò che serve è però comprendere come gestire ciò che si sta creando. Come questi agenti intelligenti con i quali ognuno di noi interagisce quotidianamente online si comportano, quale è il loro scopo, di chi è la responsabilità se qualcosa va storto, come si fa a ispezionarli a sapere che non violano norme etiche e non diventano una minaccia alla sicurezza delle persone. L’approccio di Cristianini è consapevole, abbraccia le nuove tecnologie, l’evoluzione dell’intelligenza artificiale e allo stesso tempo ne mette in luce peculiarità, rischi, valori, fa riferimento al concetto di teleologia per spiegare come le macchine intelligenti, le macchine sociali, hanno uno scopo e questo scopo deve essere noto a chi le usa perché solo così si può trarre il massimo del vantaggio dalla intelligenza artificiale senza che la fiducia in questa nuova forma di intermediazione venga meno. La dignità umana è il parametro principe, è la priorità che deve guidare le scelte che siano tecnologiche, sociali, umane, politiche, filosofiche, psicologiche, serviranno nuove scienze come la psicometria delle macchine, ma l’autore si dice convinto che quanto i redattori di Amazon fecero scrivere sul giornale Seattle Weekly quando la società di Bezos decise di sostituirli con agenti automatici per scrivere le raccomandazioni dei libri, resta valido anche oggi: “La gloriosa confusione della carne e del sangue prevarrà”.