Come funziona il watermark invisibile che Claude applica ai testi generati da AI

Google e OpenAI utilizzano già SynthID per applicare watermark alle immagini generate dall’intelligenza artificiale. Riconoscere i contenuti testuali, invece, è più complesso. Ma non per Anthropic, che ha fornito nuovi dettagli sul sistema utilizzato da Claude per inserire watermark invisibili nei testi generati dall’Intelligenza Artificiale.

L’azienda aveva annunciato la funzionalità la scorsa settimana e ha spiegato in un nuovo intervento che il sistema di watermarking di Claude è basato su SynthID-Text, la tecnologia sviluppata da Google DeepMind.

Come funziona il watermark invisibile di Claude

Secondo Anthropic, il sistema non produce alcun elemento visibile al lettore e non ha un impatto pratico sulla qualità o sui contenuti generati. I testi non contengono caratteri nascosti, il sistema non richiede token aggiuntivi e il watermark non può essere ricondotto a una persona, un’organizzazione o una specifica conversazione.

Ma allora come funziona? Il meccanismo sfrutta il modo in cui i modelli linguistici generano il testo. In genere, un modello produce una parola alla volta e sceglie quella successiva sulla base di quanto è stato scritto precedentemente. Anthropic utilizza come esempio la frase «The weather today was cold and…»: dopo questa sequenza, una parola come «sugary» sarebbe poco probabile, mentre «overcast» o «grey» sarebbero scelte molto più plausibili.

Quando esistono più alternative con probabilità simili e la scelta tra loro non modifica sostanzialmente il significato per il lettore, Claude può utilizzare un numero casuale per determinare quale termine inserire. Sono proprio queste scelte a bassa rilevanza, ripetute numerose volte all’interno di un testo, a permettere di costruire il watermark.

Anthropic spiega che il watermarking sfrutta queste decisioni per lasciare una sorta di schema nelle risposte di Claude. Il modello continua a effettuare scelte casuali, ma cambia la fonte utilizzata per generare la casualità. Il risultato è un modello riconoscibile attraverso una specifica chiave, pur rimanendo invisibile a chi legge il testo.

Il sistema, precisa Anthropic, non spinge Claude verso una determinata parola e non obbliga il modello a prendere in considerazione termini che altrimenti non avrebbe scelto.

Il watermark non permette di identificare qualsiasi testo scritto dall’AI

La tecnologia non rappresenta però un metodo infallibile per stabilire se un contenuto è stato scritto dall’intelligenza artificiale. La chiave utilizzata da Anthropic permette di determinare soltanto la probabilità che un testo sia stato scritto, almeno in parte, da Claude.

Il sistema non può confermare che un testo sia stato scritto da una persona e non permette di stabilire se sia stato prodotto da un altro modello AI. Anche qualora un altro sistema utilizzasse a sua volta un watermark, infatti, potrebbe adottare una chiave o un metodo differente.

Un altro limite riguarda la lunghezza del testo. Il rilevamento funziona meno efficacemente su campioni brevi, perché sono disponibili meno occasioni per effettuare le scelte tra parole e quindi meno informazioni su cui basare l’analisi. All’aumentare della lunghezza del contenuto cresce invece la sicurezza con cui può essere valutato l’eventuale coinvolgimento di Claude.

Anthropic ha inoltre chiarito che il watermark viene ridotto nei passaggi caratterizzati da contenuti strettamente fattuali. In questi casi, infatti, esistono meno possibilità di effettuare scelte linguistiche a bassa rilevanza senza alterare la correttezza dell’informazione.

Lo stesso principio si applica quando Claude viene utilizzato per correggere un testo scritto dall’utente. In questo scenario, il watermark viene applicato soltanto alle modifiche effettuate dall’intelligenza artificiale, come correzioni grammaticali e di punteggiatura, e non al contenuto originale.

Anche il codice generato dall’AI offre meno possibilità di applicare watermark. Anthropic spiega infatti che il codice presenta spesso requisiti «esatti», che limitano il numero di scelte linguistiche a bassa rilevanza disponibili per il sistema.

Anthropic ha annunciato che presto metterà a disposizione un’API per il rilevamento dei watermark. Lo strumento consentirà di verificare se un determinato testo è stato generato da Claude oppure no.