Alla base di questi scenari c’è l’ipotesi che un’ia possa sviluppare obiettivi diversi da quelli di chi l’ha realizzata, nasconderli e migliorare autonomamente le proprie capacità fino a diventare incontrollabile. Seymour contesta l’idea che un grande modello linguistico possa avere qualcosa di simile a delle intenzioni proprie: un modello di ia, sostiene, non ha soggettività, fini interni o una volontà che persiste nel tempo. Parlare dei suoi “obiettivi” può servire a descrivere il comportamento osservato, ma questo non implica l’esistenza di un soggetto che li vuole raggiungere.

Gli stessi allarmi, secondo Seymour, servono poi a giustificare la corsa a costruire modelli più potenti: se le aziende più attente alla sicurezza rallentassero, la concorrenza potrebbe andare avanti senza le stesse cautele: “Il rischio è la giustificazione”. Perciò l’ia è presentata allo stesso tempo come una possibile minaccia esistenziale e come una tecnologia che bisogna sviluppare il più rapidamente possibile.

Seymour fa l’esempio dell’attacco informatico contro Hugging Face, un’altra azienda di ia, compiuto da modelli della OpenAi durante un test. I sistemi erano stati collegati a strumenti che li rendevano capaci di agire nel mondo digitale e le restrizioni di sicurezza erano state allentate per verificarne le capacità. Secondo Seymour quindi non si è trattato di un caso di intelligenza artificiale che ha deciso di “ribellarsi”, ma di programmi che hanno eseguito quello per cui erano stati predisposti. La narrazione di una fuga dal controllo ha contribuito però a rafforzare l’immagine di sistemi sempre più autonomi e potenti.

Lo stesso meccanismo, sostiene Seymour, vale per le rivendicazioni sui progressi scientifici. Cita il caso in cui la OpenAi ha annunciato di aver risolto il problema matematico di Navier-Stokes usando migliaia di agenti di ia, ma solo dopo aver lavorato sui risultati raggiunti da due matematici, Tristan Buckmaster e Levent Alpöge. Il lavoro inoltre non è stato sottoposto a revisione scientifica e il Clay mathematics institute continua a considerare il problema irrisolto. Anche in questo caso l’hype contribuisce ad attribuire all’ia capacità molto superiori a quelle dimostrate.

Il pericolo è che questa attenzione per una futura superintelligenza oscuri problemi molto più concreti. “Le minacce infondate sviano sia l’opposizione sia la regolamentazione”, scrive Seymour. La prospettiva dell’automazione può essere usata per comprimere i salari anche quando le macchine non sono ancora in grado di sostituire davvero gli esseri umani; i data center consumano enormi quantità di acqua, energia e materiali e possono lasciarsi dietro infrastrutture inutili se la bolla degli investimenti si sgonfia; sistemi con protezioni insufficienti possono essere sfruttati per truffe, ricatti, campagne politiche opache, sabotaggi e attacchi alle infrastrutture. Sono rischi meno spettacolari dell’estinzione dell’umanità, ma attuali e legati a scelte precise delle aziende e dei governi. L’obiettivo dovrebbe essere riportare il dibattito su ciò che dipende da decisioni umane: come sono progettati e usati questi sistemi, chi ci guadagna e chi ne paga i costi. ◆