Anthropic ha annunciato l’introduzione di watermark invisibili su tutti i contenuti generati o anche solo processati dai modelli Claude. La decisione nasce dalla necessità di conformarsi all’AI Act dell’Unione Europea, che impone ai fornitori di sistemi AI di applicare marcature machine‑readable a testi, immagini, audio e video prodotti o manipolati dall’intelligenza artificiale.

La novità è significativa: Anthropic applicherà i watermark globalmente, non solo nel mercato europeo, e fin dal rilascio di ogni nuovo modello (qui la notizia integrale).

Come funzionano i watermark invisibili

Secondo Anthropic, i contenuti testuali generati da Claude includeranno watermark incorporati, invisibili all’utente ma rilevabili tramite strumenti dedicati. Per immagini e video, invece, verranno utilizzati metadati C2PA con firma digitale, una tecnologia già adottata per certificare la provenienza dei contenuti multimediali.

Questi watermark:

• influenzano lievemente le scelte lessicali del modello
• sono distribuiti lungo tutto il documento
• risultano rilevabili solo tramite strumenti specializzati
• possono persistere anche dopo alcune modifiche manuali

Un approccio più radicale del necessario

La parte più controversa riguarda l’estensione del watermarking a qualsiasi contenuto processato, anche quando l’intervento dell’AI è minimo. Claude applicherà watermark anche a:

• correzioni grammaticali
• traduzioni
• riassunti
• conversioni di file

Nonostante l’AI Act non richieda la marcatura in questi casi, Anthropic ha scelto un approccio radicale, applicando watermark a tutto ciò che passa attraverso il modello.

Questo crea un problema di ambiguità del segnale: un watermark non distingue tra contenuto interamente generato e contenuto semplicemente revisionato. Un docente, un editor o un revisore potrebbe interpretare erroneamente la marcatura come prova di generazione totale.

Watermark facili da rimuovere

Dal punto di vista tecnico, i watermark sono facilmente aggirabili:

• basta incollare il testo in un altro modello AI che lo riformuli
• modifiche manuali sufficientemente estese spezzano il pattern
• screenshot o editing dei metadati eliminano la marcatura da immagini e video

Una volta che Anthropic pubblicherà le specifiche di rilevazione — come richiesto dall’AI Act — sarà semplice costruire strumenti per rimuovere o alterare i watermark.

Contraddizioni nell’AI Act: watermark sì, etichette no

Il quadro normativo europeo aggiunge ulteriore complessità. Secondo l’AI Act:

• un testo interamente generato dall’AI non richiede un’etichetta visibile al lettore,
• a meno che non tratti temi di interesse pubblico
• e solo se non è stato revisionato da un editor umano identificabile.

Questo crea una situazione paradossale:

• a livello di modello → watermark obbligatori
• a livello di pubblicazione → etichetta non sempre necessaria

Un articolo generato da Claude su un tema rilevante potrebbe quindi avere un watermark invisibile ma nessuna indicazione per il lettore, purché un editor umano lo abbia supervisionato.

Dubbi sulla precisione e sui falsi positivi

Anthropic non ha ancora fornito:

• test sui falsi positivi
• test sui falsi negativi
• chiarimenti sulle eccezioni previste dalla legge
• dettagli tecnici sul funzionamento del rilevatore

L’azienda ha però confermato che rilascerà una API di detection, permettendo agli utenti di verificare autonomamente la presenza dei watermark.

Perché l’UE spinge sulla trasparenza

L’obiettivo dell’AI Act è evitare che l’AI comprometta:

• l’integrità dell’ecosistema informativo
• la fiducia del pubblico
• la diffusione di disinformazione
• i rischi di manipolazione, frodi e impersonificazione

Secondo la Commissione Europea, “le persone dovrebbero sapere quando stanno interagendo con l’AI o quando sono esposte a contenuti generati dall’AI”.

Sanzioni pesanti per chi non rispetta la normativa

L’AI Act prevede multe fino a:

• 15 milioni di euro, oppure
• il 3% del fatturato globale annuale

Per questo motivo, Anthropic — come altri attori del settore — sta accelerando lo sviluppo di tecniche di watermarking e tracciabilità.