(Christian Kozowyk, Gallery Stock)

Dietro a ogni robot c’è un essere umano

(Christian Kozowyk, Gallery Stock)
10 maggio 2019 12:04

L’11 aprile un articolo pubblicato su Bloomberg ha rivelato che centinaia di dipendenti in carne e ossa di Amazon provenienti da tutto il mondo, dalla Romania al Venezuela, ascoltano le registrazioni dei comandi vocali usati con gli altoparlanti Echo, spesso all’insaputa degli utenti. Sapevamo che Alexa ci ascolta: ora sappiamo che non è l’unica.

Questo team di dipendenti perfeziona il software dell’altoparlante ascoltando le domande, o gli ordini, che gli utenti fanno ad Alexa (l’assistente virtuale usato nei dispositivi Echo) e poi verificano che il soft­ware risponda nel modo giusto. I dipendenti annotano anche le parole che Alexa fatica a riconoscere perché pronunciate con accenti diversi.

Secondo Amazon, gli utenti possono rinunciare a questo servizio, ma a quanto pare sono iscritti automaticamente. L’azienda sostiene che le registrazioni sono rese anonime, che tutte le informazioni in grado di far risalire agli utenti vengono cancellate e che le registrazioni sono acquisite solo dopo che gli utenti si rivolgono al dispositivo usando la parola d’attivazione.

Ma negli esempi citati dall’articolo di Bloomberg – una donna che cantava nella doccia e un bambino che gridava aiuto – gli utenti sembrano ignari della presenza del dispositivo.

“Abbiamo rigide misure di sicurezza operative e tecniche, oltre a una politica di tolleranza zero rispetto agli abusi del nostro sistema”, ha dichiarato Amazon in un’email inviata a Bloomberg, in cui precisa che l’azienda analizza solo estratti “molto brevi” delle registrazioni. Questa notizia ci dice molto sul modo in cui funzionano i “dispositivi intelligenti”. Gli altoparlanti su cui è attiva Alexa sanno interpretare le conversazioni, ma Amazon ha bisogno dell’intervento di persone in carne e ossa per rendere l’assistente virtuale più umana, farle comprendere accenti diversi, riconoscere i nomi delle persone famose e rispondere a comandi più complessi.

pubblicità

Lo stesso vale per molti oggetti che funzionano con l’intelligenza artificiale: sono dei prototipi. Possono solo avvicinarsi alle funzioni che promettono di fornire, mentre gli esseri umani contribuiscono a quello che alcuni ricercatori di Harvard hanno definito “il paradosso dell’ultimo miglio dell’automazione”.

I progressi dell’intelligenza artificiale creano impieghi temporanei, come contrassegnare immagini con un tag o analizzare documenti audiovisivi, mentre la tecnologia è concepita per sostituire il lavoro umano. Nel caso dell’altoparlante Echo, alcuni lavoratori della gig economy sono pagati per migliorare il software di riconoscimento vocale. Che in seguito, quando sarà perfezionato, verrà usato, per esempio, per sostituire il personale alla reception degli alberghi.

Migliaia di immagini
Nel 2016 alcuni ricercatori dell’Università di Stanford hanno usato un sistema di visione artificiale per determinare, con una precisione dell’88 per cento, l’appartenenza politica di 22 milioni di persone in base alla loro auto e al luogo di residenza. Se avessero usato un sondaggio tradizionale avrebbero avuto bisogno di un gruppo di persone che ci lavorasse, di una discreta somma di denaro e di mesi di lavoro.

Il sistema che hanno progettato, invece, ha portato a termine il lavoro in due settimane. Ma prima ha dovuto imparare cosa fosse un’automobile.
I ricercatori hanno reclutato dei lavoratori attraverso la piattaforma Mechanical turk di Amazon, e li hanno pagati per catalogare manualmente migliaia d’immagini di automobili, in modo che il sistema fosse in grado di differenziare forme, stili e colori.

Nascondere il lavoro umano spinge le persone a comportarsi in modo simile alle macchine, senza etica o empatia personali

Per chi ha un altoparlante Echo potrebbe essere una rivelazione dolorosa, ma i sistemi d’intelligenza artificiale hanno bisogno di enormi quantità di dati ordinati per categorie, prima, durante e dopo il lancio del prodotto sul mercato.
Il loro stato ideale è un feedback perpetuo: Echo funziona discretamente, i dati sonori provenienti dai clienti sono raccolti e usati per migliorare il sistema, le persone che comprano il prodotto aumentano man mano che migliora, e così aumentano i dati raccolti, contribuendo a una ulteriormente messa a punto. Questo è vero per prodotti molto diversi fondati sull’intelligenza artificiale.

Persone in carne e ossa, per esempio, analizzano e catalogano manualmente i filmati caricati dalle telecamere di sorveglianza Ring, vendute da Amazon, che i proprietari di casa possono installare sul campanello o all’ingresso di casa.
L’intelligenza artificiale che si occupa di moderare i contenuti per Facebook funziona grazie a migliaia di persone che, in tutto il mondo, insegnano ai software cos’è considerato inappropriato nei diversi contesti.

Anche qui si crea un circolo vizioso: gli esseri umani segnalano i contenuti, l’intelligenza artificiale diventa più brava a rilevarli, gli utenti di Facebook aumentano dal momento che il social network diventa più sicuro, e l’intelligenza artificiale a sua volta diventa più precisa man mano che aumentano i contenuti segnalati.

In tutti questi casi, la Silicon valley vorrebbe farci credere che l’intelligenza artificiale sia abbastanza intelligente da sostituire gli esseri umani, quando in realtà funziona solo grazie al lavoro nascosto di lavoratori in carne e ossa, che contribuiscono a creare e a mantenere questi circoli viziosi. L’intelligenza artificiale è sempre frutto di una collaborazione tra uomo e macchina. Può raggiungere traguardi eccezionali, ma raramente da sola.

Gli interessi delle aziende
Astra Taylor, una scrittrice e regista di documentari che studia quella che definisce la “farsa dell’automazione”, fa notare che le aziende hanno un interesse diretto nell’oscurare il ruolo delle persone nell’ultimo miglio dell’automazione.
“Se ci mette a disagio sapere che dall’altra parte del nostro altoparlante intelligente c’è un essere umano”, afferma, “è un disagio che va affrontato”.

L’articolo di Bloomberg conteneva anche un racconto inquietante: i dipendenti di Amazon potrebbero essersi trovati di fronte a una violenza sessuale o a un incontro violento. Questi lavoratori hanno riferito a Bloomberg che i superiori di Amazon gli avevano detto d’ignorare quei rumori e di non sporgere denuncia alla polizia (contattata per una richiesta di commenti, Amazon ha inoltrato all’Atlantic alcuni documenti in cui sottolinea la sicurezza e la cifratura dei suoi spazi di archiviazione cloud). Secondo Taylor questo è uno degli altri paradossi dell’automazione: per rendere più intelligenti le macchine, gli esseri umani che le addestrano devono comportarsi in maniera più stupida: “La cosa tragica di questa faccenda è che sta obbligando le persone a essere meno intelligenti, meno empatiche”.

Taylor sostiene che nascondere il lavoro umano spinge le persone a comportarsi in modo simile alle macchine, senza etica o empatia personali. In un caso più estremo, oscurare la natura umana del sistema significa togliere ogni tipo di scelta.

A febbraio il giornale online The Intercept ha riferito che Google ha aiutato il dipartimento della difesa statunitense a migliorare i sistemi di visione artificiale dei droni del governo, scatenando la rabbia dei suoi dipendenti.

I droni con sistemi di visione artificiale sono in grado di “vedere” i loro obiettivi, ma hanno comunque bisogno di messa a punto e di precisione. A questo scopo Google ha usato centinaia di lavoratori per catalogare manualmente alcuni elementi e contribuire a creare un insieme di dati. Secondo The Intercept, i dipendenti non avevano idea che il loro lavoro servisse a questo.

Gli esseri umani sono uno degli elementi che permettono ai sistemi fondati sull’intelligenza artificiale di funzionare, e portano con sé tutto il loro limitato bagaglio umano: preoccupazioni legate alla privacy e alle intercettazioni, eventuali preconcetti, preferenze e giudizi. Questo non sempre va nel senso della creazione di una società più armoniosa, intelligente o funzionale.

Ma nascondere il loro ruolo, essenzialmente cercando di rendere meno umano il sistema uomo-macchina che permette all’intelligenza artificiale di funzionare, non fa altro che alimentare la storia raccontata dalla Silicon valley. Ovvero che l’intelligenza artificiale è uno strumento potente, razionale e imperscrutabile: la stessa storia che la Silicon valley racconta a proposito di sé stessa.

Mostrare la manodopera che si nasconde dietro alle tecnologie più avanzate permette di smascherare entrambe queste illusioni.

(Traduzione di Federico Ferrone)

Questo articolo è uscito a pagina 106 di Internazionale il 3 maggio 2019 con il titolo “Dietro a ogni robot c’è un essere umano”. L’originale era uscito su The Atlantic. Leggi la versione originale. © 2019. Tutti i diritti riservati. Distribuito da Tribune Content Agency.

Sostieni il giornalismo indipendente
Se ti piace il sito di Internazionale, aiutaci a tenerlo libero e accessibile a tutti con un contributo, anche piccolo.
pubblicità

Articolo successivo

Architettura criminale
Sostieni il giornalismo indipendente
Se ti piace il sito di Internazionale, aiutaci a tenerlo libero e accessibile a tutti con un contributo, anche piccolo.