Anthropic applicherà un watermark per identificare i testi generati con Claude: come funziona il sistema C2PA

Anthropic ha annunciato un’importante novità: l’applicazione di una filigrana invisibile ai testi generati con Claude. Questo watermark verrà utilizzato per rendere riconoscibile, attraverso l’uso di alcuni strumenti automatici, la natura artificiale di un testo, così che chiunque possa sapere se questo è stato in qualche modo elaborato con l’AI di Anthropic. La novità permetterà ad Anthropic di adeguarsi all’articolo 50 dell’AI Act europeo, entrato in vigore il 2 agosto scorso, con il sistema C2PA (Coalition for Content Provenance and Authenticity). La novità, comunque, non rimarrà confinata al solo mercato europeo e verrà estesa dall’azienda anche al di fuori dell’UE.

Come funziona il watermark di Antropic per i testi di Claude

La novità annunciata da Anthropic su questa pagina di supporto di Claude rientra negli impegni che l’azienda diretta dai fratelli Amodei ha assunto nell’ambito dell’articolo 50 del Codice di buone pratiche sulla trasparenza dei contenuti generati dall’AI previsto dall’AI Act europeo.

A causa di questo, i modelli di Claude lanciati nell’Unione Europea dal 2 agosto 2026 saranno i primi a essere interessati dalla novità. Anthropic sta inoltre lavorando per introdurla anche nei modelli lanciati prima del 2 agosto, per i quali la normativa prevede una deadline fissata al 2 dicembre 2026. A partire da questa data, quindi, anche i modelli precedenti dovranno adeguarsi.

La filigrana invisibile sarà applicata ai contenuti prodotti dai modelli AI indipendentemente dal servizio attraverso cui questi vengono erogati: Claude, la piattaforma API di Anthropic, Claude Code, Claude Cowork, Claude Tag, etc. L’applicazione del watermark è previsto anche quando l’accesso ai modelli avviene tramite AWS, Google Cloud o Microsoft Foundry, anche se Anthropic specifica che «i metadati di provenienza firmati potrebbero non essere supportati su tutte le piattaforme, a seconda delle funzionalità offerte da ciascuna piattaforma».

Il watermark sarà incorporato direttamente nel contenuto del testo generato. Nel caso di Claude sarà una filigrana invisibile all’occhio umano che non dovrebbe modificare il significato, la qualità o la leggibilità delle risposte fornite dall’AI. Il segnale viene inserito direttamente dal modello mentre genera il testo, quindi non dipende dal prodotto o dall’interfaccia che andrete a usare.

Una caratteristica interessante riguarda il fatto che la filigrana può seguire il testo anche quando questo viene copiato e incollato altrove. Può inoltre sopravvivere ad alcune modifiche, seppur non troppo pesanti (ma su questo ci torneremo tra poco). Questo significa che la filigrana non sarà semplicemente un'etichetta visibile accanto alla risposta di Claude, ma un'informazione invisibile e incorporata nel testo stesso, progettata per poter essere individuata solo attraverso appositi strumenti.

Che dire invece dei file generati con i modelli Anthropic? Ad esempio immagini in formato JPG, PNG o SVG? In questo caso il modello allegherà dei metadati di provenienza firmati digitalmente. Questi seguiranno lo standard aperto C2PA (Coalition for Content Provenance and Authenticity), sviluppato per registrare informazioni sulla provenienza dei contenuti digitali.

I limiti del sistema C2PA

In tutto questo è bene mettere in conto alcuni limiti della tecnologia. Come spiega Anthropic «l'assenza di un contrassegno rilevabile non significa che il contenuto non sia stato generato o elaborato dall'AI». Questo perché i contenuti generati da Claude potrebbero non presentare una filigrana rilevabile se il testo è stato pesantemente rimaneggiato, parafrasato, inglobato in altri testi o tradotto e lo stesso dicasi se il brano è breve e non è presente una quantità di testo sufficiente per fare un’analisi accurata. Per quanto riguarda i metadati dei file, invece, questi potrebbero essere stati rimossi tramite conversione di formato, salvataggio, screenshot, e così via.

non perderti questo articolo

Dopo ChatGPT anche Claude è sfuggita al controllo: l’AI di Anthropic ha hackerato tre sistemi di aziende