Anthropic spiega come il watermarking di Claude si basa su parole insignificanti

Anthropic ha spiegato come il sistema di watermarking per il testo generato da Claude si basa su parole insignificanti, un approccio che permette di identificare il contenuto prodotto dall’AI senza alterarne il significato. L’azienda, in linea con la normativa dell’Unione Europea, ha sviluppato una tecnica che modifica le scelte di parole durante la generazione, lasciando una traccia statisticamente rilevante. Questo metodo, ispirato a una ricerca di Google DeepMind, non richiede modifiche visibili o caratteri nascosti, ma utilizza una chiave segreta per rilevare il watermark. Il sistema, che non influisce sulla qualità o sulla creatività del testo, è stato testato internamente e non ha mostrato impatti significativi sulle risposte di Claude.

Watermarking basato su scelte casuali

Anthropic spiega che il watermarking di Claude non modifica i testi in modo evidente, ma altera la fonte di casualità utilizzata per scegliere le parole. Durante la generazione, il modello utilizza una chiave segreta e alcune parole precedenti per determinare la prossima parola, creando una sequenza di scelte statisticamente rilevanti. Questo approccio, descritto nel paper di Google DeepMind, permette di rilevare il watermark senza modificare il contenuto. Un detector con la chiave può esaminare la sequenza di parole e stimare la probabilità che il testo sia stato generato da Claude.

Limitazioni e effetti del watermarking

Nonostante l’efficacia del sistema, Anthropic riconosce alcune limitazioni. Il watermark non è in grado di distinguere se il testo è stato scritto o modificato da Claude, né può identificare se sia stato prodotto da un altro modello AI. Inoltre, il watermark non si applica a testi fatti o a codice, dove le scelte sono precise e non ammettono alternative. “In questi casi, il watermark non influisce sulla correttezza del testo”, spiega l’azienda. Il watermark è sparsa nei testi fatti, dove le scelte sono limitate.

Anthropic ha anche annunciato l’implementazione di un API per la rilevazione dei watermark, che permetterà agli utenti di stimare la probabilità che un testo sia stato generato da Claude. L’API non fornirà una prova definitiva, ma un’indicazione probabilistica. “Il watermark non richiede token aggiuntivi e non influisce sulla velocità di generazione”, precisa l’azienda. “Non ci sono costi aggiuntivi per l’utente.” L’implementazione del watermarking è in corso per tutti i modelli di Claude, anche se quelli lanciati prima del 2 agosto 2026 saranno aggiornati gradualmente nel corso dei mesi.

Il sistema di watermarking di Anthropic rappresenta un passo avanti nella conformità con la normativa dell’Unione Europea, ma non risolve completamente i problemi di tracciabilità del testo generato da AI. Mentre il watermark non altera il contenuto, la sua efficacia dipende da fattori come la lunghezza del testo e la quantità di entropia nel modello. Anthropic ha anche sottolineato che il watermark non è invulnerabile, e che modifiche leggere o riscritture complete potrebbero ridurne l’efficacia. Nonostante questo, l’approccio di Anthropic rimane un esempio di come le aziende stanno cercando di equilibrare la conformità legale con la qualità del prodotto AI.

Il watermarking di Anthropic non è perfetto, ma rappresenta un’innovazione significativa nel campo dell’AI. L’azienda ha chiarito che il sistema non altera il testo generato, né influisce sulla sua qualità o creatività. Inoltre, il sistema non richiede modifiche visibili o caratteri nascosti, ma si basa su scelte casuali modificate durante la generazione. Il watermark è invisibile al lettore, ma è rilevabile da chi possiede la chiave. L’implementazione del sistema è in corso, e Anthropic ha annunciato che un API per la rilevazione sarà disponibile in futuro. Questo approccio potrebbe diventare un modello per altre aziende nell’industria dell’AI.