Come capire se una foto vera o creata da AI: SynthID di Google e gli altri rilevatori di immagini

Google ha appena reso pubblico SynthID Detector, uno dei sistemi più avanzati per riconoscere contenuti generati dall’intelligenza artificiale, che verifica watermark in immagini, video e audio e da questo momento diventa finalmente accessibile a tutti. Per la cronaca, SynthID è una tecnologia sviluppata da Google DeepMind che inserisce un segnale invisibile nei pixel e nelle componenti sonore durante la generazione. Applica una filigrana e identifica i contenuti creati con l'AI incorporando watermark digitali. Ma attenzione: nessuno strumento di AI detecting – compreso quello di Google ovviamente – è infallibile e può dirci con matematica certezza se una foto è vera o se è generata artificialmente e più avanti vedremo perché questi tool non sono perfetti. Nel frattempo, partendo proprio dal nuovo tool rilasciato da Google, passiamo in rassegna i migliori strumenti per individuare immagini fatte con l’AI andando a scoprire il funzionamento di ciascuno di questi.

SynthID Detector

Partiamo da SynthID Detector. Questo strumento permette di caricare immagini, video e audio e verificare la presenza della filigrana invisibile SynthID, un segnale digitale che viene inserito direttamente nel contenuto generato dall’AI. A differenza dei normali metadati, la filigrana è incorporata nei pixel e resiste meglio a molte modifiche.

Questo detector non controlla soltanto contenuti generati con tecnologie generative di Google: supporta anche le filigrane SynthID adottate anche da OpenAI, NVIDIA e Kakao, mentre Apple dovrebbe essere aggiunta in seguito. Se la filigrana viene rilevata, si ha un'indicazione concreta del coinvolgimento di un sistema AI compatibile. C’è però un limite: SynthID non dice quanta parte dell’immagine sia stata generata dall’AI. Una foto reale modificata con l’AI e un’immagine creata interamente da zero possono, infatti, essere entrambe associate a una filigrana e contrassegnate come AI-generated.

Per usare lo strumento, è sufficiente collegarsi a questa pagina, trascinare il file da esaminare nel box Carica un file per il rilevamento (oppure cliccare sul pulsante Seleziona file e scegliere la fonte da cui prelevare l’immagine sospetta), accedere al proprio account Google, Apple o ChatGPT e attendere che il rilevamento venga avviato e portato a termine.

OpenAI Verify

Se si ha il sospetto che un’immagine sia stata creata o modificata con ChatGPT, Codex o l’API di OpenAI, potrebbe essere utile usare il servizio di verifica di OpenAI. Questo tool cerca informazioni che aiutino a ricostruire da dove arriva un file. Controlla sia le Content Credentials basate sullo standard C2PA sia le filigrane SynthID.

Anche l’uso di questo strumento è molto semplice. Basta recarsi su questa pagina, trascinare il file nel riquadro Carica un file (oppure fare click sul simbolo della freccia rivolta verso l’alto e selezionarlo manualmente dalle cartelle del dispositivo in uso) e attendere il responso.

Adobe Inspect

Un altro tool da prendere in considerazione è Inspect di Adobe Content Authenticity che permette di analizzare le già citate Content Credentials. È uno dei sistemi più utili per distinguere, quando i dati sono disponibili, una semplice modifica da un processo di creazione più complesso. C’è però un limite: i metadati possono essere rimossi durante modifiche o condivisioni online. L’assenza di Content Credentials non dimostra quindi che una fotografia sia autentica.

Per usare lo strumento, trascinate il file da analizzare nel riquadro Trascina il file oppure fate click su Sfoglia file e selezionatelo dalla posizione in cui questo è salvato. Attendete poi il risultato dell’analisi fatta dallo strumento.

Altri rilevatori di contenuti generati da AI

Esistono poi servizi come Isgen.ai, ZeroGPT Image Detector e Undetectable.ai che, invece di cercare una filigrana intenzionalmente inserita dal generatore, analizzano caratteristiche e pattern dell’immagine per stimare se siano compatibili con una generazione artificiale. Ma la verità è che né questi strumenti generici, né i tool che abbiamo analizzato prima sono infallibili. Al momento non esiste uno strumento che possa dirci con assoluta certezza se un'immagine è vera o falsa.

Le filigrane invisibili, come SynthID, possono ad esempio essere alterate. Un'immagine creata con un modello open source o con un servizio che non le adotta risulterà “pulita” anche se è interamente artificiale. E anche quando la filigrana c'è, screenshot, ritagli, ricompressioni, azioni di fotoritocco importanti, sono tutte cose che possono andare a indebolire l’azione della filigrana.

I rilevatori generici, invece, di solito fanno una stima di quanto un'immagine somigli a quelle prodotte dall'AI. Questo significa che possono scambiare per false foto molto ritoccate o illustrazioni, e bollare come “non artificiali” immagini generate da modelli AI di ultima generazione, che sono diventati più bravi a creare contenuti verosimili.

C'è poi la zona grigia delle foto reali modificate con l'AI: gli strumenti potrebbero segnalarle come “generate dall’AI” senza però dirci cosa sia stato cambiato.

Il consiglio è quindi quello di non fermarsi a un solo verdetto, ma fare più prove per cercare di risalire all’origine di una foto.

non perderti questo articolo

Come funzionano i rilevatori di AI e come usarli al meglio: cos’è un AI text detector