L’intelligenza artificiale potrebbe assorbire i pregiudizi più comuni, come quelli relativi al genere, alla razza, alla religione. È il risultato di uno studio pubblicato sulla rivista Science. Aylin Caliskan, Joanna Bryson e Arvind Narayanan hanno usato un software che analizzava i testi pubblicati sul web, legando una parola al suo contesto.

Il sistema ha analizzato centinaia di milioni di parole, mettendole in relazione a quelle più vicine nella frase. Interrogato sugli accostamenti di parole, il software rispondeva replicando i pregiudizi impliciti presenti online. Per esempio, associava l’idea di piacere ai fiori, e quella di disgusto agli insetti. In modo più problematico, associava la parola donna, o ragazza, ad arte; e quella di uomo a scienza, replicando uno stereotipo diffuso. I pregiudizi del software riflettevano quelli misurati con test psicologici tra le persone.

Secondo lo studio, potrebbe essere possibile correggere i pregiudizi dell’intelligenza artificiale, inserendo correttivi espliciti nel software, per esempio riguardo alla razza. Inoltre, il sistema potrebbe essere usato per studiare alcuni fenomeni, come il rapporto tra il genere e il tipo di occupazione. Lo studio è stato svolto su parole inglesi, ma potrebbe essere valido anche per altre lingue, come spagnolo, francese, tedesco e italiano.