Due ricercatori hanno messo alla prova uno di questi programmi, il Compas. Secondo il loro studio, pubblicato sulla rivista scientifica Science Advances, Compas non fa né meglio né peggio di persone che non hanno una particolare specializzazione. Julia Dressel e Hany Farid del Dartmouth college, nello stato del New Hampshire, Stati Uniti, hanno scelto a caso mille imputati da una banca dati di 7.214 persone arrestate nella contea di Broward, in Florida, tra il 2013 e il 2014, che erano state sottoposte al giudizio di Compas. Li hanno divisi in venti gruppi da cinquanta persone. Per ogni imputato hanno creato una breve descrizione che includeva il sesso, l’età, le condanne precedenti e i capi d’accusa.

Poi si sono rivolti ad Amazon Mechanical Turk, un sito web che assume volontari per eseguire piccole mansioni in cambio di denaro. Hanno chiesto a quattrocento di questi volontari di prevedere, sulla base della descrizione, se un imputato sarebbe stato arrestato per un altro crimine nei due anni successivi alla sentenza (escludendo il tempo eventualmente trascorso in carcere), un dato di cui i ricercatori erano già in possesso.

Ogni volontario ha studiato solo un gruppo d’imputati, e ogni gruppo è stato studiato da venti volontari. Analizzando i risultati, Dressel e Farid hanno scoperto che nel 62,1 per cento dei casi i volontari avevano correttamente predetto se una persona sarebbe stata nuovamente arrestata o meno. La cifra saliva al 67 per cento se si mettevano insieme le valutazioni dei venti volontari su un imputato. La precisione di Compas è stata del 65,2 per cento, praticamente la stessa dei volontari.

Per capire se l’indicazione dell’origine etnica di una persona (una questione spinosa nel sistema giudiziario statunitense) influenza simili giudizi, Dressel e Farid hanno reclutato altri quattrocento volontari, ripetendo l’esperimento ma stavolta precisando nella descrizione l’etnia della persona. Non è cambiato nulla. I partecipanti hanno identificato le persone che sarebbero state riarrestate nel 66,5 per cento dei casi.

Tutto questo suggerisce che Compas, per quanto imperfetto, non è meno affidabile del giudizio umano nell’analizzare dati pertinenti per prevedere chi sarà, o non sarà, di nuovo condannato per un reato. Questo è incoraggiante. Che sia però un investimento vantaggioso, è tutta un’altra questione.

Dressel e Farid hanno messo a punto un algoritmo di loro invenzione che si è dimostrato preciso come Compas nel prevedere l’arresto di un recidivo, ma che usa solo due dati: l’età dell’imputato e il numero delle condanne precedenti. Come sottolinea Tim Brennan di Equivalent, l’azienda che produce Compas, l’algoritmo dei ricercatori, essendo stato testato e creato a partire dai dati di un unico luogo, potrebbe dimostrarsi meno preciso se usato con dati provenienti da altri posti. Ma fino a che l’algoritmo alla base di Compas rimarrà protetto da brevetto, un confronto dettagliato sarà impossibile. ◆ _ ff_