CosÌ fake da sembrare vero - i software generativi per creare immagini stanno prendendo d'assalto...

17 apr 2023 09:00

Estratto dell'articolo di Raffaele D'Ettorre per “il Messaggero”

Papa Francesco che indossa un elegante piumino bianco, Trump che scappa braccato dalla polizia newyorchese, Putin in ginocchio davanti a Xi Jinping. […] si tratta di falsi clamorosi, ma sui social sono stati in tantissimi ad esserci cascati.

Difficile biasimarli però, perché con il rilascio della versione 5 di Midjourney […] il confine tra realtà e finzione su internet si è assottigliato fin quasi a scomparire. Ormai di software generativi non c'è che l'imbarazzo della scelta […] ma è indubbio che all'ondata di nuovi fake abbia contribuito proprio la facilità d'uso di Midjourney.

deepfake di elon musk con bikini off

CONTROMISURE

Fino a poco tempo fa chiunque poteva generare gratuitamente immagini semplicemente accedendo alla piattaforma e inserendo alcune parole chiave. Ma adesso l'azienda proprietaria ha interrotto la prova gratuita (per usare il software bisognerà pagare almeno 7 euro al mese), nel tentativo di arginare il recente afflusso di nuovi curiosi (3 milioni di visitatori solo a marzo) e contenere i rischi dovuti alla massificazione incontrollata di questa nuova tecnologia.

deepfake di angelina jolie con bikini off

«Stiamo assistendo a quella che in gergo viene chiamata la "customerization" spiega Matteo Flora, imprenditore, divulgatore e docente a contratto presso l'università di Pavia cioè il processo per cui strumenti che prima erano appannaggio esclusivo di chi aveva budget e competenze estremamente elevati, oggi sono alla portata di tutti».

DEEP LEARNING

E dove non arriva l'IA generativa intervengono i cosiddetti "deepfake", […] Oggi possiamo «facilmente montare la faccia di qualcuno sul filmato di una rapina e farlo sembrare vero spiega Flora - bastano una app e una scheda grafica da gaming. Più una manciata di nostre foto, di cui i social ormai sono stracolmi». Un esempio di deepfake è la app BikiniOff, che permette di rimuovere facilmente i vestiti da qualsiasi immagine.

deepfake bikini off

E che due studenti di una scuola media romana hanno recentemente usato per "spogliare" alcune compagne di classe, finendo al vaglio della procura. […] Su TikTok sono diventati un problema talmente serio che ByteDance è dovuta intervenire stabilendo che tutti i deepfake devono essere «chiaramente indicati» nella descrizione del video, pena il blocco dell'account.

FILIGRANA

deepfake di cardi b bikini off

Linee guida simili sui contenuti "sintetici" (cioè manipolati) sono state introdotte anche su Facebook, Twitter e YouTube. Ma basteranno queste contromisure ad arginare il dilagare di falsi in un periodo storico in cui il 49,1% degli Italiani tra i 16 e i 64 anni si affida ai social […] come fonte numero uno di informazione? Per contrastare il fenomeno, c'è già chi ragiona sull'uso di una filigrana che contraddistingua le immagini originali da quelle artificiali. O sull'implementazione di restrizioni che blocchino l'uso di determinate parole chiave sui software generativi. «Tutto inutile chiosa Flora ormai questa tecnologia è open source. Non si possono bloccare algoritmi e conoscenze che milioni di persone al mondo hanno già scaricato e che possono facilmente modificare».

immagine fake del papa con piumino

DIAVOLERIE

In realtà qualche trucco per individuare i fake ancora c'è. Mani con 4 dita, tonalità della pelle innaturali o volti sfocati sono tutti chiari indicatori di un'immagine sintetica. Ma la verità è che stiamo pian piano insegnando alle macchine a mentire sempre meglio, e anche questi ultimi indizi presto scompariranno[…]

Articoli correlati

L'INTELLIGENZA ARTIFICIALE AL SERVIZIO DELLA PEDOPORNOGRAFIA - DUE MINORENNI HANNO CONDIVISO SU ...

Ultimi Dagoreport