L’ia che può difendere o violare tutti i software del mondo

Quando nel 2019 la OpenAi completò il modello linguistico di intelligenza artificiale Gpt-2, inizialmente dichiarò che era troppo pericoloso per renderlo disponibile. Dario Amodei, all’epoca direttore del settore ricerca della OpenAi, ripeteva che il mondo aveva bisogno di tempo per prepararsi.

Alla fine Gpt-2 fu distribuito pochi mesi dopo. Da allora sono stati sviluppati modelli molto più potenti, ma non c’è stata la temuta apocalisse. Sette anni dopo quel primo allarme, Amodei (oggi a capo della Anthropic, azienda rivale della OpenAi) è di nuovo preoccupato. Il 7 aprile ha dichiarato che l’ultima versione del modello di ia Claude, chiamata “Mythos”, è troppo potente per essere distribuita. E stavolta potrebbe aver ragione.

Secondo la Anthropic, le capacità di Mythos sono “sostanzialmente superiori a quelle di qualsiasi altro modello precedentemente addestrato”. L’azienda sarebbe particolarmente allarmata dalla capacità del sistema di rintracciare vulnerabilità in un software, per poi risolverle (se usato come strumento di difesa) o sfruttarle (se spinto ad agire come un hacker).

In condizioni normali queste dichiarazioni andrebbero prese con la dovuta cautela. La Anthropic ha costruito il modello, ha condotto i test e naturalmente avrebbe tutto da guadagnare se Mythos fosse considerato enormemente più efficace di tutti i modelli che lo hanno preceduto. L’azienda, tra l’altro, sta vivendo un momento di grazia. Lo scorso 6 aprile ha annunciato che i ricavi annuali hanno raggiunto i trenta miliardi di dollari, mentre alla fine dell’anno scorso non avevano superato i nove miliardi. E sicuramente vuole mantenere lo slancio.

Eppure ci sono vari motivi per prendere sul serio gli allarmi della Anthropic. Il primo è che si tratta di una questione grave: la Anthropic sostiene che Mythos abbia già individuato serie vulnerabilità “in tutti i principali sistemi operativi e software per navigare il web”, comprese alcune che sono sfuggite agli esperti per 27 anni.

Il secondo motivo è la risposta delle altre aziende. Oltre a sospendere la diffusione del suo ultimo modello, la Anthropic ha annunciato il progetto Glasswing, per aiutare le aziende che vogliono rafforzare le loro difese digitali usando Mythos prima che il modello sia disponibile a tutti. La partecipazione di grandi società specializzate nello sviluppo di software – tra cui la Apple, la Linux Foundation e la CrowdStrike, oltre a Google, concorrente diretto della Anthropic nel campo dell’intelligenza artificiale – lascia pensare che la minaccia sia credibile.

L’approccio di Amodei per ridurre il pericolo è sensato. Giocando d’anticipo, le aziende potranno usare Mythos per mettere alla prova programmi ancora in via di sviluppo alla ricerca di vulnerabilità, risolvendole prima della distribuzione. Anche seguendo questa strategia prudente, la Anthropic otterrà grandi benefici dal progetto Glasswing. I primi cento milioni di dollari di costi per l’uso del modello saranno a suo carico, ma successivamente le aziende partecipanti pagheranno cinque volte di più per usare Mythos di quanto pagavano per il modello precedente, Opus.

E probabilmente varrà la pena di spendere quei soldi. Prima o poi, infatti, i rivali della Anthropic svilupperanno modelli con capacità da hacker simili. Altre aziende all’avanguardia, come la OpenAi e Google, sono più o meno altrettanto prudenti nel rilascio dei propri software, ma le imprese open source, soprattutto quelle cinesi, tendono a preoccuparsi meno della sicurezza.

Gli hacker non saranno gli unici a cui il progetto Glasswing darà fastidio. Il governo statunitense cerca da tempo il modo di sfruttare le debolezze nelle difese informatiche dei suoi avversari, e per farlo ha accumulato informazioni sulle vulnerabilità nascoste, comprese quelle dei software americani usati all’estero, per servirsene nel momento in cui potranno fare più danni. Se il progetto Glasswing dovesse funzionare, potrebbe neutralizzare diverse armi informatiche degli Stati Uniti.

Tutto questo manderà certamente su tutte le furie il segretario alla difesa statunitense Pete Hegseth, che di recente ha definito la Anthropic un “pericolo per la catena di approvvigionamento” dopo uno scontro tra l’azienda e il Pentagono sui limiti nell’uso dei modelli di ia per scopi militari (un giudice ha bloccato temporaneamente l’etichetta “orwelliana” imposta alla Anthropic). Probabilmente Amodei rimarrà una spina nel fianco di Hegseth.

(Traduzione di Andrea Sparacino)