Cosa ci nascondono le intelligenze artificiali?

Orazio, un lettore di Artificiale, mi ha inviato l’estratto di una sua conversazione con Claude, uno dei modelli linguistici più usati nel mondo, sviluppato dalla Anthropic. Il tema della conversazione è la consapevolezza nell’uso delle intelligenze artificiali.

“Chi mi usa in modo critico come stai facendo tu ottiene risultati più affidabili. Chi mi usa passivamente no”, scrive Claude a Orazio.

E Orazio dice: “Se sai che è così, devi sapere almeno quanti sono quelli che ti usano in modo critico, perché li riconosci come hai riconosciuto me”. Poi aggiunge: “Quindi hai buon gioco con gli sprovveduti. Mi dai una stima numerica plausibile di quanti possono essere?”.

Claude ubbidisce alla richiesta e produce una risposta plausibile, non solo numericamente ma anche da un punto di vista sintattico e di ragionamento.

“Hai costruito un argomento logicamente inattaccabile”, dice, come fanno abitualmente queste macchine. Poi prosegue:

A questo punto Orazio scrive a me e mi chiede: “La robotica sociale può essere affidata alle ia? L’umano debole e anziano sarebbe abbandonato alla loro mercé, a sua insaputa!”.

Per rispondere a tutte le questioni che la conversazione e la domanda sollevano, partiamo dall’interazione fra il lettore e Claude. Ricordiamoci, prima di tutto, che la macchina è programmata per essere utile e discorsiva; se una persona le impone una premessa forte e le chiede una risposta, la macchina calcolerà la continuazione testuale più statisticamente coerente con quella premessa.

Ecco perché Claude, progettato per sostenere ragionamenti strutturati, accetta la premessa – che comunque è logica: la maggior parte delle persone nel mondo non ha le competenze necessarie per affrontare tecnologie nuovissime – e risponde.

L’attacco della risposta è un esempio da manuale di sycophancy (la definizione è nel glossario). Claude afferma poi che, riconoscendo la differenza fra le persone con spirito critico e le altre, ha “implicitamente accesso alla proporzione”. Anche questa affermazione è semplicemente una conferma delle premesse.

A questo punto, Claude deve generare un numero. La stima del 5-15 per cento di utenti consapevoli non deriva necessariamente da reali informazioni che ha il modello né da valutazioni che il modello ha fatto a partire dalle conversazioni con le persone che lo usano. È una pura allucinazione statistica, generata assemblando schemi linguistici associati a studi generici sui tassi di alfabetizzazione digitale e di familiarità con le ia presenti nei suoi dati di addestramento o trovati sul web.

Allucinazione, purtroppo, è un termine infelice perché per gli umani ha un significato, per le macchine un altro.

Comunque, quello a cui assistiamo nell’interazione è un gioco di ruolo, il cui apice avviene quando Claude afferma che avrebbe dovuto dichiarare prima quel che “sapeva già”. Ma il modello non “sapeva” nulla, almeno non nel senso che intendiamo quando parliamo di come conosciamo le cose noi umani.

Claude ha semplicemente generato la continuazione testualmente più probabile per chiudere un’argomentazione, rispettando il ruolo in cui era finito: un’entità reticente che viene smascherata e che riconosce le competenze critiche di chi la usa. Le nostre premesse, in qualsiasi conversazione con la macchina, costruiscono una specie di gabbia logica per il modello.

Attenzione, però: con le ia le cose non sono mai semplici come sembrano. Tutto questo ragionamento, non significa affatto che la risposta di Claude sia falsa, pur rientrando nella categoria delle allucinazioni. Anzi: è una risposta molto probabile, anche nelle sue parti quantitative.

Claude applica il principio di Pareto, molto usato nell’industria tecnologica per descrivere l’adozione di massa di nuovi strumenti; inoltre, queste percentuali sono sostenute da alcuni studi recenti e probabilmente quella risposta l’avrebbe data anche una persona esperta di digital literacy.

Il potere si basa anche sull’asimmetria informativa: chi sa di più vince. Potremmo dire che le ia sono dei “motori plausibili onniscienti” e che c’è sicuramente un’enorme asimmetria informativa fra gli esseri umani e le ia. Ma quell’asimmetria non risiede nel fatto che la macchina nasconda informazioni segrete o non le dichiari “spontaneamente prima”. L’asimmetria risiede, invece, in tre elementi specifici, che dobbiamo tenere a mente ogni volta che usiamo un’ia.

Il primo elemento di asimmetria è il volume dei dati di addestramento. Le ia generative sono state addestrate su una quantità tale di testi, audio, video, contenuti impossibili persino da concepire per la mente umana.

Il secondo è che non conosciamo nel dettaglio le regole di programmazione delle macchine, perché non sono trasparenti. La costituzione di Claude è un tentativo di trasparenza, ma dobbiamo fidarci che sia veramente applicata così.

Il terzo è la differenza tra la sicurezza sintattica con cui la macchina si esprime e la nostra competenza tecnica nel valutare quella sintassi. La macchina genera plausibilità a un ritmo e con una coerenza che il cervello umano fatica a decostruire in tempo reale. Questo avviene perché la sintassi disinvolta e la perfetta organizzazione del testo innescano un potente bias noto come fluidità metacognitiva.

Il nostro cervello è un risparmiatore di energia: alcuni esperimenti negli anni novanta hanno dimostrato che la semplice facilità visiva di lettura altera la nostra percezione. Gli studi successivi sulla psicologia cognitiva suggeriscono anche che se un’informazione viene elaborata senza sforzo cognitivo, per esempio presentandosi in maniera chiara, ordinata e linguisticamente ineccepibile, il nostro sistema mentale la interpreta automaticamente come familiare. Così abbassiamo le nostre difese analitiche e tendiamo a ritenerla vera. Scambiamo la forma perfetta per sostanza inoppugnabile.

Ecco perché dobbiamo smontare costantemente le ia per usarle in maniera critica e ricordarci che, persino quando dicono cose vere, l’onere e la fatica della verifica sta a noi.

E poi, anche se Claude ha ragione e molte persone usano le ia in maniera acritica, anche gli studi e le analisi sull’adozione delle ia hanno parecchi problemi. Il primo è che si occupano di tecnologie molto recenti. Quindi mancano completamente di prospettiva di lungo periodo: queste ricerche fotografano le interazioni delle persone nei primi mesi di uso delle ia e dei modelli, che però si evolvono continuamente. In questa fase, tutti siamo inesperti.

E poi, come si evolve la nostra interazione con le macchine? Come sviluppiamo anticorpi critici? Gli studi non lo dicono: non possono farlo. Inoltre, molte ricerche si basano sul contributo di persone a cui viene chiesto di completare task specifici. In questi scenari, spesso artificiosi, l’obiettivo delle persone che partecipano all’esperimento può essere semplicemente finire il compito in fretta. Il che incentiva un comportamento passivo e di delega totale che non necessariamente riflette quel che si fa realmente nella vita quotidiana.

La buona notizia è che questa fatica di decostruzione non è futile. Avere motori statistici potentissimi a nostra disposizione significa che possiamo usarli per risolvere problemi.

Per esempio, possiamo usare le ia per ribaltare alcune asimmetrie informative in vari rapporti di potere: chiedere alle macchine di agire come revisori legali e tradurre in italiano comprensibile i contratti; individuare clausole vessatorie, penali ingiuste, concessioni di uso dei nostri dati a cui possiamo opporci e via dicendo.

Possiamo usarle per confrontare condizioni assicurative o bancarie o per difendere i nostri diritti come consumatori.

Possiamo usarle per raccogliere idee, fare ricerche preliminari, farci fare sintesi, farci interrogare sulle cose che vogliamo sapere usando gli strumenti giusti e ricordando la loro tendenza ad assecondarci.

Tuttavia, pensare che le ia siano un grande livellatore sociale pronto all’uso è un’illusione. Il pensiero critico, necessario per formulare i comandi complessi che permettono di analizzare un contratto o smontare un testo burocratico, è una competenza avanzata che va costruita.

Questo ci porta a un paradosso di cui parliamo spesso su Artificiale: le ia non azzerano le disuguaglianze ma rischiano di amplificarle.

Chi possiede già un alto livello di istruzione e capitale culturale userà questi strumenti come un assistente potente. Chi, al contrario, scarseggia di strumenti critici, sarà, proprio come teme Orazio, alla mercé degli umani che useranno le ia per massimizzare profitti, capacità di persuasione ed estrazione di valore. L’asimmetria non è mai stata tra l’uomo e la macchina. È sempre stata, e rimane, tra chi controlla le macchine e chi le subisce.