The Black Box Society di Frank Pasquale analizza il potere crescente degli algoritmi che governano settori decisivi della società contemporanea: reputazione digitale, accesso alle informazioni e finanza. Imprese e istituzioni raccolgono una quantità sempre maggiore di dati sulle persone, mentre mantengono segreti i criteri con cui quei dati vengono trasformati in valutazioni, classifiche e decisioni.
Queste “scatole nere” possono determinare la concessione di un prestito, un’opportunità di lavoro, ciò che vediamo online o il valore attribuito alla nostra identità digitale. Presentati come strumenti neutrali e oggettivi, gli algoritmi incorporano invece interessi economici, scelte politiche e possibili discriminazioni, spesso senza offrire a chi ne subisce gli effetti la possibilità di comprenderli o contestarli.
Pasquale descrive così una profonda asimmetria: le organizzazioni sanno sempre di più su di noi, mentre noi sappiamo sempre meno su di loro. La trasparenza, tuttavia, è soltanto il primo passo. Il libro propone una società più intelligibile, nella quale le decisioni automatizzate siano verificabili, contestabili e sottoposte a responsabilità umana. La questione centrale non è soltanto capire come funzionano gli algoritmi, ma stabilire chi controlla il potere che esercitano.