Anthropic mette il watermark nei testi creati dall'AI

Anthropic ha annunciato che i contenuti generati dai propri modelli di intelligenza artificiale saranno contrassegnati da watermark invisibili e leggibili dalle macchine, una novità destinata a cambiare il modo in cui verrà identificato il testo prodotto dall’AI. La misura nasce per soddisfare gli obblighi di trasparenza previsti dall’AI Act dell’Unione Europea, ma sarà applicata a livello globale sui modelli compatibili, segnando uno dei primi casi in cui un grande sviluppatore di modelli linguistici introduce un sistema di marcatura direttamente all’interno del testo.

Come funzionano i watermark di Claude

Secondo Anthropic, il watermark sarà impercettibile agli utenti e non modificherà il significato, la leggibilità o la qualità del testo prodotto. In pratica, il modello introdurrà una firma digitale distribuita nella sequenza delle parole, riconoscibile soltanto attraverso strumenti di verifica specifici.

L’azienda spiega che il sistema opera a livello di modello, indipendentemente dal servizio utilizzato. Ciò significa che il contrassegno accompagnerà i contenuti generati tramite Claude, API, Claude Code e le principali piattaforme cloud che ospitano i modelli dell’azienda. Anche copiando e incollando il testo, il watermark dovrebbe continuare a essere rilevabile e potrebbe sopravvivere a modifiche leggere, mentre riscritture sostanziali potrebbero eliminarlo.

Per immagini e altri file compatibili, Anthropic utilizzerà invece metadati firmati basati sullo standard C2PA, già adottato da diverse aziende del settore per certificare la provenienza dei contenuti digitali.

La decisione arriva mentre l’Europa inizia ad applicare le disposizioni dell’AI Act dedicate alla trasparenza dei contenuti sintetici. L’Articolo 50 richiede infatti che i sistemi di intelligenza artificiale rendano identificabili i contenuti generati o manipolati artificialmente, con l’obiettivo di ridurre il rischio di disinformazione e inganni nei confronti degli utenti.

Pur trattandosi di una normativa europea, Anthropic ha scelto di estendere il sistema di watermarking anche ai mercati extra UE, evitando di mantenere comportamenti differenti tra le varie aree geografiche. I nuovi modelli introdotti dopo l’entrata in vigore delle regole saranno marcati fin dal lancio, mentre quelli più datati verranno aggiornati progressivamente durante un periodo di transizione.

Uno strumento utile, ma non infallibile

La stessa Anthropic riconosce che il watermark non rappresenta una soluzione definitiva. L’azienda evidenzia due limiti principali: la tecnologia potrebbe produrre falsi positivi in alcuni casi e non sarà in grado di identificare i contenuti creati con modelli precedenti o con sistemi che non implementano questo tipo di marcatura. Inoltre, modifiche profonde del testo potrebbero rendere il watermark non più rilevabile.

Queste limitazioni riflettono quanto emerso negli ultimi anni anche nella ricerca accademica, dove numerosi studi hanno evidenziato come il watermarking dei modelli linguistici possa essere efficace soprattutto come strumento di attribuzione, ma difficilmente possa garantire un’identificazione perfetta in ogni scenario.

La scelta di Anthropic si inserisce in una tendenza più ampia dell’industria dell’intelligenza artificiale. Negli ultimi mesi diversi operatori hanno rafforzato le proprie iniziative sulla content provenance, combinando watermark invisibili, metadati certificati e strumenti di verifica pubblici per consentire agli utenti di distinguere con maggiore facilità i contenuti sintetici da quelli realizzati senza AI.

L’introduzione dei watermark nei testi potrebbe avere effetti significativi anche al di fuori dell’ambito normativo. Editori, scuole, aziende e piattaforme online potrebbero infatti utilizzare in futuro strumenti automatici per verificare l’origine dei contenuti, mentre gli sviluppatori saranno chiamati a trovare un equilibrio tra trasparenza, tutela della privacy e libertà d’uso dei sistemi di intelligenza artificiale. In questo contesto, la decisione di Anthropic rappresenta uno dei primi esempi concreti di applicazione su larga scala delle nuove regole europee, destinato con ogni probabilità a influenzare anche le strategie degli altri protagonisti del settore.