Cosa sono e come funzionano i deepfake, i video creati al computer che sembrano reali

I deepfake sono sintesi di immagini umane basate sull'intelligenza artificiale utilizzate per combinare o sovrapporre immagini e video reali con artefatti creati digitalmente. In sostanza con questa tecnica è possibile cambiare o modificare il volto dello speaker all'interno del video, modificare il parlato e sincronizzare il parlato con i movimenti della bocca.

Il termine nasce dall'unione delle parole inglesi fake ("falso") e deep learning, ovvero la tecnica di intelligenza artificiale utilizzata per realizzare questi filmati.
Ultimamente la GAN (Generative Adversarial Network) è tra le tecniche di intelligenza artificiale maggiormente utilizzate per creare deepfake verosimili, limitando gli errori superficiali del deep learning tramite l'implementazione di modelli che si "sfidano fra loro".

Come ogni strumento, anche i deepfake possono essere utilizzati per scopi poco nobili. Si sono già registrati usi impropri di tale tecnologia per generare contenuti utili alla diffusione di fake news o utilizzati a scopo di revenge porn.

Come funzionano i deepfake

Esistono diversi modi per creare un deepfake, Il più comune, attualmente, è quello basato sull'utilizzo di reti neurali che utilizzano una tecnica di scambio-volti.
Per fare ciò è necessario utilizzare un autoencoder, ovvero un programma che studia un videoclip (o una fotografia), analizza le sembianze di un individuo da diversi angoli di visuale (o li ipotizza nel caso di una fotografia) e lemappa su un'indivuo "di destinazione".

non perderti questo articolo

Mind-Video, l’intelligenza artificiale che trasforma pensieri e sogni in immagini e video

In questo modo l'individuo di destinazione potrà registrare una clip apparendo con le sembianze dell'individuo mappato dall'algoritmo, con risultati che possono essere estremamente realistici.

Possibili rischi nell'uso improprio dei deepfake

I deepfake nacono con il programma "Video Rewrite" del 1997 con il quale Christoph Bregler, Michele Covell e Malcolm Slaney modificavano riprese video aggiungendo dettagli e particolari non presenti nel video originale.
La sempre maggiore capacità computazionale dei dispositivi che utilizziamo abitualmente ha consentito una rapida crescita di contenuti deepfake multimediali (immagini/video o audio) che stanno diventando sempre più difficili da distinguere da video autentici, e quindi potenzialmente pericolosi.
Questo strumento ci espone, quindi, a rischi legati ai contenuti che possono essere veicolati tramite questi video, per esempio per diffondere disinformazione.

Il garante della privacy ha emesso, a tal proposito, un vademecum per informare i cittadini sui possibili utilizzi impropri di tale tecnologia.

Quella realizzata con i deepfake è una forma particolarmente grave di furto di identità.
Le persone che compaiono in un deepfake a loro insaputa non solo subiscono una perdita di controllo sulla loro immagine, ma sono private anche del controllo sulle loro idee e sui loro pensieri, che possono essere travisati in base ai discorsi
e ai comportamenti falsi che esprimono nei video.
Le persone presenti nei deepfake potrebbero inoltre essere rappresentate in luoghi o contesti o con persone che non hanno mai frequentato o che non frequenterebbero mai, oppure in situazioni che potrebbero apparire compromettenti.
In sostanza, quindi, un deepfake può ricostruire contesti e situazioni mai effettivamente avvenuti e, se ciò non è voluto dai diretti interessati, può rappresentare una grave minaccia per la riservatezza e la dignità delle persone.