Un large language model genera una parola alla volta (più precisamente, un token alla volta), scegliendo ogni volta tra varie parole candidate plausibili. Che poi è una simulazione del modo in cui scrivono le persone.

Facciamo un esempio. Avrei potuto chiudere la frase precedente con “gli umani”, ma ho scelto “le persone”. La scelta, per me, non è casuale anche se a chi legge potrebbe sembrare indifferente.

Di solito, quando a scrivere la frase è una macchina, quel tipo di scelta viene fatto in modo casuale: la macchina completa la frase con una delle parole più probabili, in base al comando che ha ricevuto, al contesto e ai vincoli che ha ricevuto.

Il watermark della Anthropic cambia un po’ questa casualità. Teoricamente lo fa in maniera impercettibile a chi legge: i nuovi modelli Claude useranno una chiave segreta che modifica le loro scelte. Le parole restano sempre plausibili, il testo rimane fluido e comprensibile, ma la sequenza di termini scelti porta con sé una traccia statistica che solo chi possiede quella chiave segreta può individuare.

Questo marchio, però, non si posa dappertutto: dove la parola giusta è una sola non c’è niente su cui incidere. Se Claude deve completare la frase “Il racconto di fantascienza horror più famoso di Harlan Ellison si intitola Non ho”, dovrà per forza concludere con “bocca, e devo urlare”. Non solo: più il testo è corto, meno l’azione di Claude è rilevabile. Più ci sono vincoli di parole e termini da usare, meno l’azione di Claude è rilevabile su testi brevi.

In generale, più il testo generato è lungo, più questo segnale statistico diventa leggibile. Ma, appunto, solo per chi ha la chiave: in questo momento non puoi prendere questo articolo, copiarlo dentro Claude e ottenere un responso che ti dica se la macchina è stata o meno coinvolta nella sua stesura.

La Anthropic ha promesso che renderà presto disponibile, attraverso interfacce di programmazione, un rilevatore al pubblico.

Anche la piattaforma Substack, insieme alla Pangram, ha introdotto un rilevatore di intelligenze artificiali. È un sistema molto diverso da quello della Anthropic, perché si basa su valutazioni di schemi di parole e stili ricorrenti, di cui le macchine fanno uso e abuso. Un esempio ormai ben noto è l’epanortosi enfatica, una figura retorica in cui si corregge o si nega un’affermazione precedente per rafforzarla, usando la formula “non X ma Y”.

Il marchio di Pangram, facilmente aggirabile, ha generato varie reazioni su Substack: ne ho scritto anch’io sostenendo, come molte altre persone, che sia un modo per alimentare la cultura del sospetto e che non risolva alcun problema della sovrapproduzione dei contenuti.

Comunque, ufficialmente il motivo di questa iniziativa della Anthropic è l’articolo 50 del regolamento europeo sulle intelligenze artificiali, in vigore dal 2 agosto 2026, e il codice di condotta sulla trasparenza dei contenuti generati, firmato a luglio da circa 190 soggetti diversi fra cui la Anthropic stessa. L’azienda dice che anche gli altri produttori di modelli linguistici dovranno adeguarsi: vedremo come.

Il regolamento vale per il mercato europeo, ma la Anthropic ha deciso di marchiare gli output di Claude ovunque, perché non ha ancora trovato un modo efficace per imporre limiti geografici alla marchiatura. L’azienda è andata comunque oltre gli obblighi dell’Ai act: marchiare anche le traduzioni o le revisioni, oltre ai testi generati da zero, è una scelta specifica. Evidentemente arrivare per primi a fare qualcosa (mentre i concorrenti dicono che è difficile farlo) conviene parecchio a un’azienda che si vende come la più prudente del settore.

Il marchio, ovviamente, non è infallibile. Facciamo un altro esempio. Usando queste macchine ogni giorno, ho costruito assistenti che conoscono il libro di stile di Internazionale, la struttura di questa newsletter e le mie posizioni politiche sulle intelligenze artificiali, oltre a tutti i numeri di Artificiale usciti fino a questo momento e molti altri miei articoli o interventi pubblici.

Agli assistenti detto appunti, li uso per riordinare i miei pensieri, per fare brainstorming, per trovare punti deboli nelle mie idee, per individuare salti logici, errori, imprecisioni, refusi. In parti che non so quantificare al singolo carattere, quello che leggete qui è passato dentro una macchina. Questo uso delle ia, in un mondo di etichette, è un problema: non produce un dato univoco e inequivocabile. Eppure, da qualche parte, qui dentro, potrebbe esserci, se si ha la chiave, il marchio che dimostra che Claude è stato coinvolto nella stesura di questo articolo.

Che cosa prova questo, esattamente? Quasi nulla. Lo dice la stessa Anthropic: “Un watermark può solamente determinare che Claude è stato probabilmente coinvolto nella creazione del contenuto a un certo punto. Non è in grado di distinguere tra ‘Claude ha scritto questo’ e ‘Claude ha modificato pesantemente quest’altro’”.

Il marchio, insomma, non è in grado di indicare in quale momento Claude è stato usato e con quali intenti. Una riscrittura completa, ovviamente, lo cancella. La ricerca accademica mostra già che parafrasi, due passaggi di traduzione e copia-incolla parziali degradano progressivamente la rilevabilità di strumenti simili come SynthId-Text (quello di Google), e ci sono già archivi pubblici di strumenti per rimuovere le filigrane, che funzionano più o meno bene ma che sono, ovviamente, presi d’assalto.

Forse vale la pena di fermarsi un attimo e chiederci a chi e a cosa serve tutto questo. Un lettore non può verificare niente. E poi, cosa dovrebbe verificare, esattamente? Quando il servizio di Claude per rilevare la filigrana sarà disponibile, chi scansiona un testo e non trova niente ha scoperto soltanto che forse non è stato usato Claude. E su un testo abbozzato, dettato, riscritto, verificato riga per riga e poi passato da una redazione, il responso direbbe “umano” anche se magari le macchine sono state coinvolte parecchio.

Il tutto senza toccare nemmeno per un istante quel che c’è a monte: i testi usati per gli addestramenti e le regole che seguono i modelli non hanno bisogno di essere bollinati né di essere trasparenti. Perché mai dovremmo pretendere trasparenza sull’output e non su tutto il resto?

Il marchio della Anthropic dice solo che una macchina è passata di lì. È un’etichetta che ignora il processo di lavoro e la responsabilità, che dovrebbe essere l’unica cosa che conta: il giornalista, per esempio, è responsabile di quello che scrive, sostiene e firma. Che l’abbia inciso su una tavoletta d’argilla o comunicato in codice morse, che l’abbia fatto col computer o facendomi aiutare da una o più ia, quello che leggi su Artificiale è quello che ho trovato, verificato, testato, è quello che penso e scrivo, rivisto dalla redazione di Internazionale. E il rapporto di fiducia con chi legge si basa proprio su questo processo. Perché mai dovrebbe contare altro?