Francesco Marino per www.repubblica.it

 

fakeyou

C’è stato un momento, all’inizio del conflitto in Ucraina, in cui sui social network ha iniziato a circolare un video particolare. Una clip in cui il presidente di Kyiv, Volodymyr Zelensky, chiedeva alla popolazione di arrendersi, contraddicendo quanto detto fin dalle prime ore del conflitto. Quel video, in realtà, non esisteva: era un deepfake, ovvero un contenuto creato dall’intelligenza artificiale per sembrare autentico.

 

Deepfake 2

Quello dei deepfake è un tema di cui, a cadenza abbastanza regolare, si parla nel dibattito pubblico. Sta capitando di nuovo in questi giorni per colpa di un’applicazione che si chiama Fakeyou e che permette, per farla breve, di generare audio a partire da un testo. Il punto è che il servizio mette a disposizione una serie di voci sono di personaggi piuttosto celebri, a cui sostanzialmente l’utente può far dire quello che vuole.

 

fakeyou

 Ci sono anche alcuni italiani, tra i più noti Giorgia Meloni, Silvio Berlusconi e Gerry Scotti. Un passaggio successivo è anche la creazione di video: ci sono dei modelli con volti famosi, come Elon Musk o Donald Trump, a cui l’utente può far dire quello che vuole anche in video, con movimento delle labbra coerente.

 

COME FUNZIONA FAKEYOU

L’applicazione è disponibile per tutti ed è molto semplice da utilizzare. Le voci sono di qualità variabile: a volte particolarmente realistiche, altre un po’ meccaniche. La piattaforma è stata creata da un team di sviluppo statunitense, con base ad Atlanta, guidato da Brandon Thomas, che ha sviluppato la tecnologia alla base del servizio. Il punto, però, è che il sistema è aperto: se si entra sul sito, si trova un annuncio che offre agli utenti un contributo economico fino a 150 dollari per la generazione di nuove voci, rimandando al canale ufficiale su Discord.

deepfake 2

 

A fare un giro sulle chat, si capisce come Fakeyou sia destinato a diventare molto più grande di quanto non sia ora. Nel solo canale italiano la conversazione è continua, con suggerimenti e consigli su come creare set di dati per l’intelligenza artificiale. Nel mirino personaggi di tutti i tipi, dalle star del web ai politici, fino ai conduttori televisivi.

deepfake 3

 

“I deepfake – si legge nella descrizione della piattaforma – sono un po’ come Photoshop, quando è uscito. Tutto questo potrebbe spaventare, ma a breve sarà la normalità. Le persone si abitueranno e i risultati saranno utilizzati soprattutto con fini di creatività, sbloccando possibilità che prima sarebbero state costose e impossibili per creatori individuali”.

fakeyou

 

I RISCHI E LE POSSIBILI CONSEGUENZE

Un ottimismo, quello degli sviluppatori di Fakeyou, non proprio condiviso dai legislatori tra Europa e Italia. Allo stato attuale delle cose, i deepfake, video o audio che siano, rappresentano infatti un rischio importante: possono, secondo una serie di studi riassunti in un articolo su The Conversation, amplificare il rischio di sfiducia nelle istituzioni e nei media e contribuire alla disinformazione.

 

Per questo motivo, sono oggetto di uno sforzo regolatorio, soprattutto da parte dell’Unione Europea. Nel Regolamento sull’intelligenza artificiale, l’Ue definisce il deepfake come sistema di intelligenza artificiale che genera o manipola immagini o contenuti audio o video che assomigliano notevolmente a persone, oggetti, luoghi o altre entità o eventi esistenti e che potrebbero apparire falsamente autentici o veritieri per una persona” e indica l’obbligo di indicazione della manipolazione del contenuto attraverso l’IA per chi lo pubblica.

 

deepfake 4

A giugno di quest’anno, Reuters ha rivelato l’intenzione dell’Ue di stringere ancora sui deepfake, affidando alle compagnie digitali come Meta, Twitter o Google l’obbligo di mettere in atto una serie di misure per contrastare la diffusione dei contenuti generati tramite IA. Le piattaforme sarebbero obbligate ad adeguarsi, pena una multa che può arrivare al 6% del fatturato.

 

Ma quali sono attualmente i rischi per chi pubblica un deepfake nel nostro Paese? Secondo un documento del Garante della Privacy, “quella realizzata con i deepfake è una forma particolarmente grave di furto di identità”. Il punto, secondo l’autorità per il diritto alla riservatezza nel nostro Paese, è che “le persone che compaiono in un deepfake a loro insaputa non solo subiscono una perdita di controllo sulla loro immagine, ma sono private anche del controllo sulle loro idee e sui loro pensieri, che possono essere travisati in base ai discorsi e ai comportamenti falsi che esprimono nei video”.