L'attrice Kristen Bell ha scoperto per la prima volta che c'erano dei video porno di lei online da suo marito, l'attore Dax Shepherd. Nei video, il suo viso è stato manipolato sui corpi delle star del porno. "Sono rimasta scioccata", ha detto l'attrice. "È difficile pensare che vengo indirettamente sfruttata".

Tuttavia, questo non sta succedendo solo alle celebrità. Noelle Martin, una recente laureata in giurisprudenza a Perth, in Australia, ha scoperto che qualcuno ha scattato foto che aveva condiviso sui social media e le ha utilizzate prima per fare photoshop il suo viso in immagini di nudo, quindi per creare video di alta qualità. I deepfake sono spesso rappresentati come una minaccia politica perchè grazie a questa tecnologia possono essere creati video in cui i politici fanno commenti che non hanno mai fatto.

Nonostante la grande preoccupazione in campo politico, in un recente rapporto, il gruppo di ricerca Deeptrace ha scoperto che il 96% dei deepfake trovati online è usato nell’industria pornografica. Di quei video, praticamente tutti sono donne e praticamente tutti sono realizzati senza il loro consenso.

I maggiori siti di streaming del settore hanno una politica che vieta l’utilizzo di deepface, ma spesso non fanno nulla per evitare questo tipo di abuso. I deepfake utilizzano una tecnologia che permette di ricostruire il viso di una persona totalmente; si tratta di una tecnologia diversa dal “face swap” che viene normalmente utilizzato sui social come Instagram in cui si “ritaglia” una parte del viso e si scambia con quella di un amico.

Il deepfake necessita di un uno speciale software chiamato “autoencoder” che analizza un gran numero di fotografia dello stesso viso e lo ricostruisce digitalmente. Negli Stati Uniti è possibile denunciare il creatore di un video deepfake, ma ciò richiede denaro e il più delle volte non garantisce che il colpevole sia trovato.