Dagotraduzione da Technology Review

 

deepfake 12

Il sito è accattivante per la sua semplicità. Su uno sfondo bianco, un gigantesco pulsante blu invita i visitatori a caricare l'immagine di un volto. Sotto il pulsante, quattro facce generate dall'intelligenza artificiale consentono di testare il servizio. Sopra, lo slogan proclama audacemente lo scopo: trasformare chiunque in una pornostar utilizzando la tecnologia deepfake inserendo il volto della persona in un video per adulti. Tutto ciò che serve è la foto e un click.

 

deepfake 2

MIT Technology Review ha scelto di non nominare il servizio, che chiameremo Y, né di utilizzare citazioni dirette e screenshot dei suoi contenuti, per evitare di indirizzare traffico verso il sito. È stato scoperto e portato alla nostra attenzione dal ricercatore di deepfake Henry Ajder, che ha seguito l'evoluzione e l'ascesa dei media sintetici online.

 

Per ora, Y esiste in relativa oscurità, con una piccola base di utenti che fornisce attivamente feedback sullo sviluppo nei forum online. Ma i ricercatori temono che possa emergere un'app come questa, in violazione di una linea etica che nessun altro servizio ha mai attraversato prima.

 

deepfake 3

Fin dall'inizio, i deepfake, cioè quei media (foto, video) generati dall'intelligenza artificiale, sono stati utilizzati principalmente per creare rappresentazioni pornografiche di donne, che spesso trovano la pratica psicologicamente devastante. Il creatore di Reddit che ha reso popolare la tecnologia ha inserito volti di celebrità femminili in video porno. Ad oggi, secondo le stime della società di ricerca Sensity AI, tra il 90% e il 95% di tutti i video deepfake online sono porno non consensuali e circa il 90% di questi presenta donne.

 

deepfake 1

Con l'avanzare della tecnologia, sono emersi anche numerosi strumenti senza codice di facile utilizzo, che consentono agli utenti di "spogliare" i vestiti dai corpi femminili nelle immagini. Da allora molti di questi servizi sono stati messi offline, ma il codice esiste ancora in piattaforme open source e ha continuato a riemergere in nuove forme. secondo la ricercatrice Genevieve Oh, che l'ha scoperto, ad agosto l'ultimo sito di questo tipo ha ricevuto oltre 6,7 milioni di visite. Deve ancora essere messo offline.

 

deepfake 4

Ci sono state altre app per lo scambio di volti a foto singola, come ZAO o ReFace, che collocano gli utenti in scene selezionate di film tradizionali o video pop. Ma, come è successo con la prima app pornografica dedicata allo scambio di volti, Y porta questo processo a un nuovo livello. È "fatto apposta" per creare immagini pornografiche di persone senza il loro consenso, afferma Adam Dodge, il fondatore di EndTAB, un'organizzazione no-profit che educa le persone sugli abusi della tecnologia. Questo attrae persone che altrimenti non avrebbero pensato di creare porno deepfake. «Ogni volta che ti specializzi in questo modo, crei un nuovo angolo di Internet che attirerà nuovi utenti», afferma Dodge.

 

deepfake 5

Y è incredibilmente facile da usare. Una volta che un utente carica una foto di un volto, il sito apre una libreria di video porno. La stragrande maggioranza dei video presenta donne, anche se una piccola manciata è dedicata anche agli uomini, per lo più nel porno gay. Un utente può quindi selezionare qualsiasi video per generare un'anteprima dello scambio di volti in pochi secondi e pagare per scaricare la versione completa.

 

deepfake 7

I risultati sono tutt'altro che perfetti. Molti degli scambi di volti sono ovviamente falsi, con i volti che luccicano e si distorcono mentre cambiano le angolazioni. Ma per un osservatore casuale, potrebbe essere accettabili e lo sviluppo dei deepfake ha già mostrato quanto velocemente possano diventare indistinguibili dalla realtà. Alcuni esperti sostengono che la qualità del deepfake non ha molta importanza perché il danno psicologico alle vittime può essere lo stesso in entrambi i casi. E molti utenti non sono consapevoli dell'esistenza di questa tecnologia, quindi anche lo scambio di volti di bassa qualità può essere in grado di ingannare le persone.

 

deepfake 6

Y si autodefinisce uno strumento sicuro e responsabile per esplorare le fantasie sessuali. Il messaggio sul sito incoraggia gli utenti a caricare la propria faccia. Ma nulla impedisce loro di caricare i volti di altre persone e i commenti sui forum online suggeriscono che gli utenti lo abbiano già fatto.

 

Le conseguenze per le donne e le ragazze colpite da queste attività possono essere devastanti. A livello psicologico, questi video possono essere violenti quanto il revenge porn: veri video intimi girati o pubblicati senza consenso. «Questo tipo di abuso - in cui le persone travisano la tua identità, il tuo nome, e la tua reputazione e la alterano in modi così violenti - ti frantumano nel profondo», dice Noelle Martin, un'attivista australiana che è stata presa di mira da una campagna di deepfake porno.

 

deepfake 8

E le ripercussioni possono durare tutta la vita. Le immagini e i video sono difficili da rimuovere da Internet e nuovo materiale può essere creato in qualsiasi momento. «Influisce sulle tue relazioni interpersonali; ti colpisce quando cerchi lavoro. In ogni singolo colloquio di lavoro che fai, potrebbe essere tirato fuori. E pesa sulle potenziali relazioni romantiche», dice Martin. «Fino ad oggi, non sono mai riuscito completamente a rimuovere nessuna delle immagini. Sarà sul web per sempre. Non importa cosa faccio».

 

A volte è persino più complicato del revenge porn. Siccome il contenuto non è reale, non sempre le donne si sentono traumatizzate o credono che il fatto meriti una segnalazione. «Se qualcuno sta lottando con il fatto si essere stato veramente una vittima, compromette la sua capacità di riprendersi», dice.

 

deepfake 9

Il porno deepfake non consensuale può anche avere impatti economici e di carriera. Rana Ayyub, una giornalista indiana che è diventata vittima di una campagna di deepfake porno, ha subito molestie online così intense che ha dovuto ridurre al minimo la sua presenza sul web e sul suo profilo pubblico, di cui ha bisogno per svolgere il suo lavoro. Helen Mort, una poetessa e giornalista con sede nel Regno Unito che in precedenza ha condiviso la sua storia con MIT Technology Review, ha detto di aver sentito la pressione di sparire dopo aver scoperto che le sue foto erano state rubate da account social privati per creare falsi nudi.

 

deepfake 11

La Revenge Porn Helpline finanziata dal governo del Regno Unito ha recentemente preso in carico il caso di un'insegnante che ha perso il lavoro dopo che le sue immagini pornografiche deepfake sono state diffuse sui social media e portate all'attenzione della sua scuola «Sta peggiorando, non migliorando», dice Dodge. «Aumentano le donne che vengono prese di mira in questo modo».

 

L'opzione di Y di creare porno gay deepfake, sebbene limitata, rappresenta un'ulteriore minaccia per gli uomini nei paesi in cui l'omosessualità è criminalizzata, dice Ajder. È il caso di 71 giurisdizioni a livello globale, 11 delle quali puniscono il reato con la morte.

 

NANCY PELOSI DEEPFAKE

Ajder, che ha scoperto numerose app porno deepfake negli ultimi anni, afferma di aver tentato di contattare il servizio di hosting di Y e di metterlo offline. Ma è pessimista sul fatto che si possa impedire la creazione di strumenti simili. È già apparso un altro sito che sembra tentare la stessa cosa. Ajder pensa che vietare questi contenuti sulle piattaforme di social media, e forse anche rendere illegale la loro creazione o il loro consumo, si rivelerebbe una soluzione più sostenibile. «Significherebbe trattare questi siti web come se fosse materiale del dark web», dice. «Anche se continua a esistere sottoterra, se non altro resta lontano dagli occhi della gente comune».

 

renzi deepfake

Y non ha risposto alle richieste di commento. Le informazioni di registrazione associate al dominio vengono inoltre bloccate dal servizio privacy Withheld for Privacy. Il 17 agosto, dopo che MIT Technology Review ha fatto un terzo tentativo di contattare il creatore, il sito ha pubblicato un avviso sulla sua homepage dicendo che non è più disponibile per i nuovi utenti. Al 12 settembre, l'avviso era ancora lì.