Dario Amodei, cofondatore e amministratore delegato della Anthropic, ha avuto un’idea geniale per evitare che l’intelligenza artificiale (ia) ci stermini tutti lanciando un attacco con armi biologiche o impossessandosi di un arsenale nucleare: affidare il controllo dei modelli a enti indipendenti come Metr, che collabora con le aziende del settore per valutare prestazioni e rischi. Basta così poco? I fondatori delle aziende di ia sono loquaci e grandi affabulatori: tutto quello che dicono è trattato come una rivelazione. Anche quando è una banalità. I bilanci aziendali sono certificati da decenni da revisori esterni, e questo non ha certo impedito frodi contabili che solo in rarissimi casi hanno avuto conseguenze serie per i revisori distratti o complici. Prima della crisi finanziaria del 2007 i titoli derivati costruiti sulla cartolarizzazione di mutui immobiliari statunitensi li esaminavano le agenzie di rating ed erano addirittura classificati come sicuri. Sappiamo com’è finita. Le crisi bancarie sono state fermate dai salvataggi pubblici, dalle banche centrali e da regole più prudenti. La proposta di Amodei non eviterà un disastro, ma lo renderà più probabile: certificazioni private come alternativa al controllo pubblico e alla trasparenza diffonderanno un falso senso di sicurezza. E saranno guai. ◆