È una delle espressioni più famose: nasce da un articolo del 2021 firmato da Emily Bender, Timnit Gebru, Angelina McMillan-Major e Margaret Mitchell. Funziona molto bene perché ricorda il meccanismo alla base dei large language model (llm): questi sistemi producono sequenze di parole plausibili in base alla probabilità, senza garanzie di corrispondenza con il mondo.

Qualcuno potrebbe obiettare che anche quel che dice una persona non dà nessuna garanzia di corrispondenza con il mondo, ma per ora lasciamo da parte queste considerazioni.

L’articolo, pubblicato online con l’emoji del pappagallo 🦜 nel titolo, parlava anche dei costi ambientali di modelli sempre più grandi e dei pregiudizi contenuti nei dati. Questa parte, purtroppo, si è persa quasi del tutto per strada, fagocitata dalla metafora stessa. Anni dopo, Emily Bender ha dovuto fare alcune precisazioni sul suo lavoro lamentando proprio questa dinamica, che ha fatto parecchi danni.

Nel frattempo, però, il pappagallo è diventato una metafora sempre più stretta: i comportamenti emergenti e le rappresentazioni interne ai modelli individuate da chi fa ricerca la rendono sempre meno vera. “È solo un pappagallo stocastico” (o “è solo statistica”) è diventata una frase per chiudere le discussioni proprio quando bisognerebbe aprirle, visto che con questi strumenti si possono fare tantissime cose.

I pappagalli veri, tra l’altro, ne escono particolarmente maltrattati visto che sono animali sociali e piuttosto intelligenti.

“Allucinazione” dà un nome a un’esperienza che chiunque abbia usato un chatbot riconosce: la risposta falsa detta con sicurezza. Ma, se pensiamo al suo significato originario, ci suggerisce anche una mente che percepisce le cose in maniera alterata e ci fa pensare che l’errore dipenda da un guasto del sistema.

Eppure le risposte giuste degli llm e quelle sbagliate sono il frutto dello stesso identico meccanismo.

Nel 2024 i filosofi Michael Townsen Hicks, James Humphries e Joe Slater hanno proposto un’alternativa: i chatbot producono stronzate nel senso descritto da Harry Frankfurt in Stronzate. Un saggio filosofico. Significa che i discorsi delle macchine sono indifferenti alla verità. È un’immagine più precisa del loro funzionamento.

Anche questa, però, ha almeno due problemi: prima di tutto, attribuisce un atteggiamento – l’indifferenza – a qualcosa che non ne ha; poi ci fa credere che queste macchine siano inutili.

Nel febbraio 2023 lo scrittore Ted Chiang ha paragonato ChatGpt, che era diventato pubblico da poco, a un jpeg sfocato del web. Cioè, un’immagine compressa, con una perdita di dettagli, che però conserva un’impressione di visione d’insieme. È una metafora efficace per spiegare perché le risposte delle ia sembrano giuste anche quando sono approssimative.

Il rischio è che ci faccia pensare che le ia siano degli hard disk, dei contenitori di copie più o meno sbiadite delle opere originali. La conservazione integrale dei dati di addestramento, invece, è un’eccezione rispetto al funzionamento generale.

Non solo: come al solito in questa prospettiva la sfocatura è considerata un difetto che mina alla base l’utilità degli strumenti. Invece esiste proprio perché le macchine non contengono i dati con cui sono state addestrate, ma solo una loro rappresentazione.

Secondo alcuni, l’uso delle intelligenze artificiali per alcune attività, come la scrittura, è paragonabile al doping. Questa metafora è stata rilanciata a proposito del romanzo di Thélyson Orélien. La parte buona di questo parallelismo è che ci obbliga a chiederci quali regole vogliamo: dove finisce l’aiuto lecito? Dove comincia quello che non tolleriamo?

Allo stesso tempo dobbiamo ammettere che quel confine sarà sempre una convenzione, proprio come le sostanze vietate nello sport. Il doping, però, presuppone un giudizio morale (chi si dopa sta barando). E presuppone anche che esista una prestazione pulita e naturale da proteggere. Ma la scrittura ha sempre avuto molte mani: editor, correttrici, traduttrici, revisori, come ci ha ricordato anche Claudia Durastanti.

L’analogia si porta dietro anche le sue istituzioni: il test, la squalifica, la lista delle sostanze proibite, la denuncia pubblica, le accuse anonime, il dubbio, lo stigma a priori. E la metafora del doping si concentra su chi ha barato ma lascia sempre fuori chi scrive le regole e chi può doparsi senza essere scoperto perché tanto ha già una posizione di privilegio.

La filosofa Shannon Vallor ha dedicato un libro del 2024, The Ai mirror, all’idea che questi sistemi ci restituiscano l’immagine dei nostri dati e dei nostri pregiudizi. È una metafora che abbiamo usato anche nella prefazione di Intelligenza artificiale, un libro curato da Internazionale.

Funziona perché, essendo addestrate con tutto quel che c’è di umano, le ia ci rispecchiano in tutto. Il limite, però, è la presunzione di innocenza dello specchio, oggetto passivo e neutro. Le ia sono costruite da poche aziende che scelgono dati, filtri, regole, comportamenti da premiare o da rigettare, domande a cui i modelli devono rifiutarsi di rispondere, limiti d’uso e prezzi.

Se le ia sono specchi, allora sono specchi deformanti, ma questo non viene detto a chi li usa. La metafora rischia di assolvere chi li produce, minimizzando il suo ruolo.

Ethan Mollick, docente alla Wharton school dell’università della Pennsylvania, negli Stati Uniti, suggerisce da tempo di trattare i chatbot come una persona, un collega o uno stagista da seguire. Come indicazione di metodo funziona bene perché, in effetti, si delega solo quel che si è deciso prima, si controlla ogni risposta e si pubblica solo quello che è stato revisionato e di cui ci si assume per intero la responsabilità.

Però anche questo antropomorfizza il comportamento della macchina e presuppone un rapporto di lavoro in cui non c’è un lavoratore. Lo stagista è un abbonamento pagato a un oligopolio che fa scomparire le persone che lavorano davvero, spesso sottopagate. Anche i nomi scelti dai produttori a volte sono metafore: Copilot della Microsoft, per esempio, ricalca perfettamente questa relazione.

Nello Cristianini, che insegna intelligenza artificiale all’università di Bath, nel Regno Unito, ha proposto di considerare queste macchine come “intelligenze aliene”. È una metafora efficace soprattutto perché ci permette di pensarle come strumenti diversi da noi, altri. Ma l’alieno ha il problema che poi finisce per essere visto come un’entità cattiva che vorrà dominarci.

Fin dal 2017 l’informatico Andrew Ng ha paragonato queste tecnologie all’elettricità. L’immagine dice qualcosa di vero sulla loro diffusione come infrastruttura, e insieme le fa sembrare ancora una volta inevitabili e neutre come un servizio pubblico per il bene comune.

“I dati sono il nuovo petrolio”, formula usata dal matematico Clive Humby nel 2006, è diventata, forse per puro caso o forse per un’intuizione straordinaria, l’analogia più precisa: estrazione, energia, acqua, territorio, potere sono tutte questioni che si intersecano nel mondo delle ia. A marzo del 2025 Henry Farrell, Alison Gopnik, Cosma Shalizi e James Evans hanno proposto di considerare i grandi modelli linguistici come tecnologie culturali e sociali, parenti strette della scrittura e della stampa, ma anche delle biblioteche, dei mercati e delle burocrazie.

Più o meno nello stesso periodo Arvind Narayanan e Sayash Kapoor hanno parlato di “tecnologia normale”. Queste sono le cornici argomentative più utili perché spostano lo sguardo da tutte le distrazioni da cui siamo bombardati alle istituzioni che organizzano la conoscenza e quindi ai ragionamenti sul potere. Anche in questo caso ci sono dei limiti: “normale” può diventare un modo per dirci che tutto sommato anche la concentrazione in poche mani è una cosa naturale. Le biblioteche che conosciamo, però, sono in gran parte pubbliche. Questa, forse, è la metafora più interessante di cui abbiamo bisogno.

L’ultima virata sulle parole da usare è quella di Trump, che ha deciso di chiamare questi strumenti “superintelligenze”, firmando addirittura un ordine esecutivo per abolire “intelligenze artificiali” da tutti i documenti ufficiali della sua amministrazione. È un favore alla Silicon valley che corre verso l’idea di una “singolarità”, cioè la creazione di una macchina che acquisisce coscienza e impara a migliorarsi da sola. È un favore anche alla paura e alla distopia e non fa altro che creare più confusione.

Ogni metafora, presa da sola, è un’approssimazione, una sfocatura, un errore, magari anche un’allucinazione. Usarle bene, tutte insieme, somiglia al modo in cui conviene usare i modelli di ia: con consapevolezza, cercando di avere una visione d’insieme, accettando che la nostra comprensione è spesso sfocata (probabilmente molto più spesso di quanto vorremmo) e che va bene così.

Le immagini che hanno avuto più successo, però, vengono tutte dagli uffici marketing di chi vende i prodotti, aiutati dal catastrofismo fantascientifico e dalla politica: l’agente di ia che ci distruggerà è quella che, ultimamente, funziona di più. Forse perché, tutto sommato, pensiamo che avesse ragione l’agente Smith?