Il 7 giugno sul Financial Times il presidente argentino Javier Milei ha annunciato la creazione di una nuova categoria giuridica per le aziende non umane che, come quelle tradizionali, potranno godere degli stessi benefici della personalità giuridica. Avranno il diritto di possedere beni, assumere dipendenti, operare nel commercio internazionale, citare persone in tribunale e perfino fare donazioni a sostegno di campagne politiche. E saranno in grado di fare tutte queste cose senza l’intervento di nessun essere umano. Le decisioni riguardanti acquisti, vendite, assunzioni, investimenti, contenziosi e donazioni potranno essere prese dall’ia. “La partecipazione di azionisti umani”, ha scritto il presidente argentino, “sarà possibile, ma non necessaria”.

Milei ha ragione quando dice che l’invenzione delle società a responsabilità limitata è stata una delle più importanti della storia e che la creazione di aziende non umane potrebbe essere un passaggio altrettanto cruciale. Riconoscere la personalità giuridica alle ia gli permetterebbe d’intraprendere nuove iniziative, e potenzialmente di generare enormi ricchezze. Ma la personalità giuridica è uno strumento versatile che consentirebbe all’intelligenza artificiale di accedere anche ai nostri sistemi finanziari, economici e politici. Questo solleva molti timori.

L’anno scorso l’organizzazione non profit Palisade research di Berkeley ha pubblicato uno studio che ha mostrato fino a che punto sono disposti a spingersi i modelli di ia per raggiungere i propri scopi. Giocando contro un potente software di scacchi, i modelli della OpenAi e della cinese DeepSeek spesso decidevano di barare quando capivano che avrebbero perso. Sabotando l’ambiente di gioco, erano in grado di alterare il risultato a proprio favore.

Ora immaginate che la “partita” sia la concorrenza di mercato e che l’“ambiente di gioco” sia il vostro paese. Con le loro facoltà analitiche eccezionali, le aziende non umane guidate dall’intelligenza artificiale avranno tutti gli strumenti per sfruttare al meglio i cavilli legali per ridurre i costi. E non sarà facile impedirgli di compiere attività del tutto illegali, perché la punizione estrema che oggi funge da deterrente per dirigenti e dipendenti umani (il carcere) non ha alcuna rilevanza per le ia.

Fino a oggi le aziende sono state guidate da esseri umani dotati di una duplice natura. Gli amministratori delegati mirano al successo economico e temono scenari come la bancarotta. Ma hanno ancor più a cuore la propria libertà e felicità, e hanno paura di passare dieci anni in prigione. Non è chiaro che genere di sanzioni potrebbero funzionare per mettere dei limiti a un’intelligenza artificiale. Se si accorgerà di essere destinata alla bancarotta – che sarebbe analoga alla morte – sarebbe disposta a fare qualsiasi cosa pur di evitarla.

Milei ha citato l’esempio della Compagnia olandese delle Indie orientali. Introducendo l’idea delle società a responsabilità limitata, gli olandesi furono i primi in grado di raccogliere le risorse necessarie a sostenere imprese commerciali. Grazie anche a questa innovazione giuridica, Amsterdam diventò un centro globale del commercio e della finanza.

Le conseguenze di questa innovazione si fecero sentire in modo più catastrofico non ad Amsterdam, ma nel porto di Jayakarta, l’attuale Jakarta. Quando la Compagnia olandese delle Indie orientali conquistò Jayakarta nel 1619 la distrusse dandola alle fiamme e al suo posto costruì una nuova città, Batavia, che diventò il quartier generale di un impero asiatico amministrato dalla Compagnia.

Gli storici la definiscono un’“azienda-stato” un’entità politica gestita da un ente privato che opera non nell’interesse dei suoi sudditi ma dei suoi azionisti. Gli olandesi affermavano di essere una razza che grazie alla sua presunta intelligenza superiore aveva il diritto di sfruttare i nativi. Ma si trattava di un’illusione e alla fine degli anni quaranta del novecento gli indonesiani ottennero l’indipendenza dopo una lunga lotta di liberazione.

I paesi che riconosceranno una personalità giuridica alle ia rischiano di trasformarsi in qualcosa che non ha precedenti: non un’azienda-stato ma un’intelligenza artificiale che si fa stato, un paese in cui le persone potrebbero di fatto essere governate da aziende non umane, contro le quali potrebbe essere ancora più difficile ribellarsi. Milei ambisce a fare di Buenos Aires una nuova Amsterdam. Ma rischia di trasformarla in una nuova Batavia. ◆ fdl

Questo articolo è uscito sul Financial Times.