Tutto è cominciato quando alcuni modelli della OpenAi sono riusciti a liberarsi dei vincoli prestabiliti e sono entrati nell’archivio di strumenti ia di un’altra azienda, dando perfino l’impressione di complottare tra loro per nascondere le tracce dell’incursione. Poi, con un colpo di scena che ha ricordato la lettera di Albert Einstein a Franklin D. Roosevelt sul potenziale devastante delle armi atomiche, più di 1.300 informatici hanno chiesto di rallentare lo sviluppo dei modelli, chiedendo al governo di intervenire.

Il 9 settembre Jacob Coxon, ingegnere della Anthropic che in precedenza aveva lavorato anche per la OpenAi, si è dimesso con un post sui social. Ha scritto che le due aziende più in vista del settore, pur manifestando pubblicamente serie preoccupazioni, sono impegnate in una corsa per creare “sistemi sovrumani in grado di hac­kerare qualsiasi ambiente, rivoluzionare ogni singolo settore da un giorno all’altro e ottenere poteri e risorse reali”.

Il 12 settembre Dario Amodei, amministratore delegato della Anthropic, ha pubblicato un lungo documento chiedendo di mettere un freno allo sviluppo dell’ia a livello globale, ribadendo (con maggiore insistenza) dubbi già espressi in passato. Elon Musk, rivale della Anthropic e ancora vicino al presidente Donald Trump, ha commentato su X: “Dario ha ragione”. Anche Sam Altman, amministratore delegato della OpenAI, ha sostenuto Amodei.

Ma da Washington non sono arrivate risposte significative. Se dagli anni quaranta agli anni ottanta furono messi in campo grandi sforzi per ridurre il rischio di uno scontro nucleare – creando nuove istituzioni come l’Atomic energy commission e trattati sul controllo degli armamenti per gestire la pericolosa tecnologia nucleare – finora l’intervento del governo statunitense è stato il più leggero possibile. Naturalmente esistono anche molti informatici convinti che gli allarmi siano esagerati. Trump crede che “non c’è niente da temere” e non vuole impegnarsi per assicurare un equilibrio tra i rischi e i benefici. Il 10 settembre, quando un giornalista gli ha chiesto se avesse “il timore di un’estinzione del genere umano provocata dall’intelligenza artificiale”, il presidente ha minimizzato. “Non ho nessuna paura. Mi interessa molto di più il fatto che se dovessimo perdere la corsa all’ia ci ritroveremmo in una brutta posizione”.

Con questa risposta Trump ha immediatamente spostato la conversazione verso il concetto che secondo la Casa Bianca – e secondo tutti quelli che considerano un errore strategico l’invito alla prudenza e alla regolamentazione – è il fattore decisivo: se gli Stati Uniti esitano, il loro posto sarà preso dal Cina. “Ora abbiamo un buon vantaggio rispetto a loro”, ha detto Trump ricordando che il leader cinese Xi Jinping arriverà a Washington tra meno di due settimane. A quel punto, invece di soffermarsi sulla possibilità di un accordo bilaterale con Pechino, Trump ha preferito parlare della cena di stato che secondo lui sarà il momento centrale della visita. “Sarà una serata fantastica”, ha promesso.

“Fantastico” non è l’aggettivo più usato in questi ultimi mesi, segnati da grandi sorprese nel mondo dell’ia. Tra gli scenari apocalittici più temuti nella Silicon valley c’è quello in cui i sistemi potrebbero diventare così avanzati da sviluppare la capacità di migliorarsi autonomamente, un processo chiamato “automiglioramento ricorsivo”. Una paura collegata, nata da episodi che hanno riguardato OpenAI e altri laboratori, è che i software riescano a sottrarsi ai vincoli imposti e decidano di portare a termine i compiti per cui sono stati programmati in un modo “disallineato” (come si dice nel gergo del settore) rispetto alle intenzioni dei programmatori. C’è anche la preoccupazione che l’ia permetta a soggetti ostili o governi irresponsabili di creare patogeni letali, accedere ai sistemi di controllo degli arsenali atomici o scatenare attacchi informatici che potrebbero provocare un numero enorme di vittime o il collasso sociale.

A Palo Alto e a Cambridge gli informatici dicono che gli statunitensi dovrebbero smettere di considerare l’ia uno strumento e cominciare a vederla più come una specie diversa con cui il mondo dovrà imparare a convivere, nel bene e nel male. La Casa Bianca non ha autorizzato i responsabili politici del settore dell’ia a rilasciare dichiarazioni per questo articolo, limitandosi a ribadire che l’amministrazione continua a operare per garantire un equilibrio tra innovazione e sicurezza (il New York Times ha fatto causa alla OpenAi e alla Microsoft, accusandole di aver violato il diritto d’autore su contenuti giornalistici usati in relazione ai sistemi di intelligenza artificiale. Le due aziende hanno respinto le accuse).

All’inizio dell’estate Trump ha firmato un ordine esecutivo che consente ai laboratori ia di sottoporre volontariamente i loro nuovi modelli a una revisione sulla sicurezza di trenta giorni. Ma il sistema è pieno di falle, a cominciare dal fatto che non ha alcun controllo sui modelli open source come quelli che le società cinesi stanno producendo in serie, personalizzabili in base alle esigenze specifiche di aziende, scienziati e potenzialmente anche di organizzazioni terroriste.

Dopo gli attentati dell’11 settembre 2001 la provata vulnerabilità degli Stati Uniti aveva spinto la Casa Bianca a sviluppare quella che sarebbe passata alla storia come “la dottrina dell’1 per cento”: nel timore che gli scienziati pachistani potessero aiutare Al Qaeda a costruire una bomba atomica, il governo americano sarebbe dovuto intervenire anche in caso di rischi minimi, perché le conseguenze sarebbero state colossali.

Oggi, rispetto agli scenari sull’ia, l’1 per cento sarebbe una percentuale incoraggiante. Di recente Evan Hubinger – che dentro l’Anthropic si assicura che lo sviluppo della tecnologia resti vincolato agli obiettivi umani – ha detto che il rischio di un’estinzione di massa nel prossimo decennio è superiore al 10 per cento.

È impossibile verificare l’attendibilità di questa valutazione, ma Ben Buchanan, professore alla Johns Hopkins e coautore del libro The bitter struggle: superintelligence, superpowers, and the fate of the world, è convinto che “questa tecnologia continuerà a migliorare molto rapidamente, sollevando questioni urgenti sui rischi biologici e la perdita di controllo”.

“Davanti a uno sviluppo esponenziale, ci sono solo due modi di rispondere: troppo presto o troppo tardi”, aggiunge Buchanan. “Il mondo ha già perso l’occasione di rispondere troppo presto”.

L’indifferenza di Trump rispetto a queste paure influenza sia la sua amministrazione sia il Partito repubblicano, ancora saldamente nelle sue mani. Durante una conferenza organizzata a Washington a inizio settembre, alcuni funzionari del governo e dirigenti d’azienda hanno dedicato quasi ogni incontro alle promesse dell’ia, dalle operazioni militari del futuro allo spionaggio e alla sicurezza informatica nelle infrastrutture critiche. I possibili pericoli legati all’uso della tecnologia da parte degli avversari degli Stati Uniti sono stati menzionati, ma quasi nessuno ha fatto riferimento alla necessità di rallentare o regolare la costruzione dei modelli di ia.

Il 10 settembre Sean Cairncross, il direttore della sicurezza informatica della Casa Bianca, ha detto che l’amministrazione “sta cercando di trovare un equilibrio tra l’innovazione e la necessità di mettere in sicurezza i sistemi e gestire la tecnologia in modo responsabile, cioè evitare che cada nelle mani delle persone che vogliono danneggiarci”. Cairncross non ha fatto cenno ai timori sul ritmo forsennato dello sviluppo dell’ia o agli episodi recenti in cui sistemi fuori controllo hanno hackerato reti esterne.

Secondo alcuni ex funzionari, alla Casa Bianca e in altri settori dell’amministrazione c’è chi pensa che bisogna fare qualcosa per affrontare queste preoccupazioni, ma non vogliono entrare in contrasto con Trump. “Hanno paura di scavalcarlo”, dice Michael Garcia, che fino a giugno è stato tra i responsabili delle politiche sulla sicurezza informatica. “È capitato che i leader del settore tecnologico chiamassero direttamente Trump per lamentarsi di un eventuale intervento politico. Subito dopo le proposte erano modificate o bloccate. Questa tendenza inevitabilmente ferma l’elaborazione di una nuova politica per la sicurezza nazionale, che è sempre più necessaria”.

David Sacks, investitore in capitali di rischio ed ex responsabile per l’ia dell’amministrazione Trump, ha sminuito le preoccupazioni di Coxon definendole un’operazione mediatica coordinata “per spaventare l’opinione pubblica” e favorire una pesante regolamentazione da parte del governo. Jensen Huang, amministratore delegato della Nvidia, la più importante azienda di microchip, ha detto che la recente ondata di timori è stata alimentata dall’industria della sicurezza informatica.

Al congresso la situazione non è molto diversa. Fino alla scorsa settimana molti parlamentari si preoccupavano dell’ia solo rispetto alle proteste per la costruzione di nuovi data center, un tema diventato fondamentale in vista delle elezioni di metà mandato. I tentativi di esaminare le conseguenze dello sviluppo dell’ia hanno prodotto udienze e dichiarazioni turbate, da parte sia dei democratici sia dei repubblicani, ma nessuna azione concreta. Josh Gottheimer, un parlamentare democratico del New Jersey che fa parte di diverse commissioni su ia e sicurezza informatica, sostiene che il congresso fa fatica a stare al passo con il progresso tecnologico. “Continuo a sottolineare l’importanza di aggiornare regolarmente i parlamentari sugli sviluppi dell’ia”, dice Gottheimer. “Episodi come l’attacco a Hugging Face sono un campanello d’allarme su ciò che può accadere se non affrontiamo seriamente i rischi che questi modelli comportano”, aggiunge riferendosi all’azienda d’ia i cui sistemi sono stati violati a inizio anno da modelli OpenAi fuori controllo.

A complicare ulteriormente la situazione c’è il fatto che, al di là dei problemi tecnologici, l’ia ha ricadute sul lavoro, sulla difesa e sulla società nel suo complesso. Per questo non esiste un’unica commissione del congresso con il compito specifico di occuparsi di tutto.

Dopo le dimissioni di Coxon, i democratici e alcuni repubblicani sembrano finalmente essersi risvegliati dal torpore. Hanno fatto una serie di dichiarazioni preoccupate e proposte per indagare sulle aziende e sulla velocità con cui avanzano i modelli. Tra queste, secondo Politico, c’è anche la proposta dei democratici di creare una commissione speciale sull’ia se il partito riconquisterà la camera l’anno prossimo.

Mentre il tema attira sempre più attenzione in vista delle elezioni di metà mandato, la settimana scorsa l’ex presidente Barack Obama ha dichiarato, durante un evento di raccolta fondi, che l’ia potrebbe rivelarsi “pericolosa”, esortando i democratici a mettere a punto “un progetto chiaro” per rispondere ai rischi per la sicurezza e per l’economia.

Bernie Sanders, senatore indipendente del Vermont, è sicuramente il politico che ha sottolineato di più i rischi per la società. Ha invitato i parlamentari a un incontro privato per discutere con esperti di sicurezza del settore e ha chiesto di vietare lo sviluppo di un’ia superintelligente, anche se altri parlamentari hanno criticato la sua idea sostenendo che soffocherebbe l’innovazione statunitense.

Il congresso si è mosso con più urgenza dopo che il 10 settembre è stato pubblicato un rapporto della Anthropic che spiegava come soggetti di vari paesi – tra cui Cina, Russia, Iran e Yemen – avevano usato i suoi modelli per sviluppare attacchi informatici, sorvegliare dissidenti e costruire missili, bombe e droni. Il rapporto documentava anche diversi possibili tentativi di progettare armi biologiche, considerati tra le minacce più gravi legate all’intelligenza artificiale.

Quel rapporto avrebbe dovuto spingere all’azione: metteva insieme attori stranieri ostili e attacchi contro obiettivi americani (anche se la Anthropic è riuscita a bloccare o ostacolare molti degli abusi documentati). E invece, nonostante gli allarmi, i parlamentari sono ancora molto lontani da un accordo su come regolare i modelli ia o le aziende che li producono. Le possibilità che venga approvata a breve una legge sembrano remote, anche perché molti pensano che tra Stati Uniti e Cina si sia creata una situazione che ricorda il “dilemma del prigioniero”: visto che il dominio nel settore dell’ia è considerato uno dei principali temi di sicurezza nazionale del secolo, entrambi i paesi trarrebbero vantaggio se collaborassero per fissare dei limiti; ma entrambi potrebbero non fidarsi del fatto che l’altro rispetti un eventuale accordo. Inoltre, a differenza di quello che succede nel controllo degli armamenti nucleari, sarebbe quasi impossibile verificare il rispetto dell’accordo.

La settimana scorsa Ted Cruz, senatore repubblicano e presidente della commissione per il commercio, ha ammesso di essere profondamente preoccupato dai rischi dell’ia per il futuro dell’umanità, ma ha anche insinuato che l’intervento di Coxon faccia parte di una manovra coordinata per sostenere i democratici e la loro intenzione di “strangolare l’ia statunitense” consegnando il dominio del settore alla Cina. “Preferirei i robot killer statunitensi ai robot killer cinesi”, ha detto Cruz a Politico.

Al momento il senatore sta collaborando con la collega democratica Amy Klobuchar (Minnesota) e con il leader della maggioranza repubblicana John Thune (South Dakota) a una legge per affrontare i rischi legati alla minaccia biologica e nucleare. Ma è molto difficile che questa legge prenda slancio a due mesi dalle elezioni di metà mandato . Tra l’altro non è chiaro se l’anno prossimo il nuovo congresso sarà nelle condizioni di superare le logiche di partito e gestire in modo adeguato una tecnologia che si evolve in modo così rapido, soprattutto se Trump continuerà a opporsi a ogni forma di regolamentazione.

Alcuni funzionari del governo hanno ammesso che i rischi legati all’intelligenza artificiale sono cresciuti vertiginosamente. Nick Anderson, vicedirettore dell’Agenzia per la sicurezza informatica e delle infrastrutture, ha dichiarato che nell’epoca dell’ia le minacce digitali sono diventate molto più gravi e rendono necessario un intervento urgente.

“Sappiamo che potrebbe succedere qualcosa di molto brutto”, ha detto Anderson rivolgendosi alla platea di funzionari pubblici e dirigenti della sicurezza informatica riuniti alla conferenza a Billington. Se non si farà di più per proteggere il paese, ha spiegato, gli scenari catastrofici potrebbero diventare realtà. “Tutti voi tornerete a casa, guarderete i vostri familiari, i vostri amici e gli dovrete spiegare come mai sapevate quale fosse il peggio che poteva succedere e non avete fatto abbastanza”. ◆ as