Il messaggio chiave del paper è che i modelli attuali con cui sono state pensate e costruiti i sistemi di intelligenza artificiale attuale, facilitano il degrado e la distruzione delle istituzioni civili critiche della nostra società. La minaccia non è esterna ma interna, le IA non sono strumenti neutrali che possono essere usati per distruggere una istituzione, ma agiscono dall’interno svuotando le istituzioni democratiche e delegittimandole, uccidendo la trasparenza, la cooperazione, la responSabilità, la componente vitale che è la garanzia fondamentale della loro sostenibilità.
Per comprendere la potenziale rilevanza del paper qui menzionato leggete questo breve estratto:
“Se si volesse creare uno strumento che consentisse la distruzione delle istituzioni che sostengono la vita democratica, non si potrebbe fare di meglio dell'intelligenza artificiale.
Leader autoritari e oligarchi della tecnologia stanno impiegando sistemi di intelligenza artificiale per svuotare le istituzioni pubbliche con sorprendente alacrità.
Le istituzioni che strutturano la governance pubblica, lo stato di diritto, l'istruzione, la sanità, il giornalismo e le famiglie sono tutte sul ceppo per essere "ottimizzate" dall'intelligenza artificiale.
I sostenitori dell'intelligenza artificiale difendono il ruolo della tecnologia nello smantellamento delle nostre vitali strutture di supporto sostenendo che i sistemi di intelligenza artificiale sono solo "strumenti" di efficienza privi di significato sostanziale.
Ma i sistemi di intelligenza artificiale predittivi e generativi non sono semplicemente canali neutrali per aiutare dirigenti, burocrati e leader eletti a fare ciò che avrebbero fatto comunque, solo in modo più conveniente. La progettazione stessa di questi sistemi è antitetica e degrada le funzioni fondamentali delle istituzioni civiche essenziali, come le agenzie amministrative e le università.
Qui di seguito l’abstract
Civic institutions—the rule of law, universities, and a free press—are the backbone of democratic life. They are the mechanisms through which complex societies encourage cooperation and stability, while also adapting to changing circumstances. The real superpower of institutions is their ability to evolve and adapt within a hierarchy of authority and a framework for roles and rules while maintaining legitimacy in the knowledge produced and the actions taken. Purpose-driven institutions built around transparency, cooperation, and accountability empower individuals to take intellectual risks and challenge the status quo. This happens through the machinations of interpersonal relationships within those institutions, which broaden perspectives and strengthen shared commitment to civic goals.
Unfortunately, the affordances of AI systems extinguish these institutional features at every turn. In this essay, we make one simple point: AI systems are built to function in ways that degrade and are likely to destroy our crucial civic institutions. The affordances of AI systems have the effect of eroding expertise, short-circuiting decision-making, and isolating people from each other. These systems are anathema to the kind of evolution, transparency, cooperation, and accountability that give vital institutions their purpose and sustainability. In short, current AI systems are a death sentence for civic institutions, and we should treat them as such.
Per leggere il paper per intero