I deepfake sono una tecnica basata sull'intelligenza artificiale per la sintesi di contenuti multimediali che alterano in modo realistico gli esseri umani. Vengono creati partendo da un file, di solito un'immagine o un video, che viene poi modificato aggiungendo, rimuovendo o modificando dettagli del contenuto al fine di crearne una variante alternativa ma molto realistica. Viene usato per esempio per far sembrare che qualcuno dica qualcosa che non ha mai detto, oppure per mettere il volto di una persona su il corpo di un'altra.
Le tecniche per generare questi contenuti sono sempre più sofisticate ed è sempre più difficile riconoscere un video reale da uno realizzato mediante queste tecnologie, tuttavia, vediamo quali possono essere alcuni “campanelli d'allarme” che possiamo utilizzare per individuare video ingannevoli.
Come riconoscere il deepfake: ecco a cosa prestare attenzione
Come detto, non è sempre semplice identificare un video generato mediante queste tecniche, tuttavia vi sono alcuni aspetti da attenzionare se si vuole tentare di riconoscere video generati artificialmente. Tra gli elementi che i modelli di deep learning fanno più fatica a simulare vi sono:
- Un'errata profondità di campo, infatti, spesso in questi video vi è un background eccessivamente sfocato
- Movimenti innaturali del viso durante le fasi di movimento e del parlato
- Innaturalezza nello sbattere le palpebre
- Gestione innaturale delle luci che illuminano il viso del soggetto
Tuttavia questo è solo un elenco parziale e non esaustivo di ciò che potrebbe risultare artificiale, va inoltre sottolineato che le moderne tecniche per generare i deepfake stanno progressivamente cercando di mitigare e correggere queste imprecisioni.
Il contributo delle Big-Tech nel riconoscimento dei deepfake
Al fine di aiutare gli utenti a riconoscere contenuti deepfake alcune grandi aziende del panorama tech, come Google e Intel, hanno messo a disposizione degli strumenti utili a perseguire la causa.
Intel, ad esempio, ha sviluppato, in collaborazione con la State University di Binghamton, FakeCatcher che promette una precisione di rilevamento dei deepfake del 96%. La percentuale così alta di successo è possibile grazie all'analisi, da parte del software, del flusso sanguigno sui volti.
Anche questo software, come quelli utilizzati per generare i deepfake, si basa sul machine learning e analizza la fotopletismografia ovvero l'osservazione dell'irrorazione dei vasi e dei capillari sul volto andando ad analizzare i cambiamenti di colore all'interno dei pixel.
Anche Google si è unita alla lotta contro i deepfake. L'azienda di Mountain View ha infatti pubblicato un ampio set di dati di deepfake sia visivi che basati su sintesi vocale. Tale dataset è stato creato collaborando con attori pagati da Google stessa o utenti consenzienti che hanno permesso di confrontare i video reali con i deepfake creati ad hoc per lo studio. Grazie alla pubblicazione di questi dati altre aziende potranno sviluppare modelli per riconoscere i deepfake sempre più precisi e affidabili.
