La nostra forza consiste nell'essere consapevoli della nostra debolezza

Una notizia di oggi -una falla nel software che può essere usata per attacchi malevoli svolti tramite l'uso di 'intelligenza artificiale'- invita a riflessioni che portano lontano. Parlare di tecnologia e di artefatti computazionali è, forse, un modo per evitare di parlare di noi stessi. La nostra forza consiste proprio nell'essere consapevoli della nostra debolezza. Sappiamo che ogni nostra costruzione è imperfetta. La protezione dal rischio implicito nella debolezza di ogni costruzione umana risiede innanzitutto nella consapevolezza di questa imperfezione. Cedendo la costruzione degli artefatti a 'intelligenze artificiali' perdiamo la percezione della nostra debolezza. E cedendo a intelligenze artificiali la tutela degli artefatti, perdiamo la percezione del pericolo, la capacità di intuire il rischio e di esercitare cautela.