il deep fake della gioconda 1

Marco Tonelli per www.lastampa.it

 

A fine maggio è stato pubblicato un video di Nancy Pelosi in stato di ubriachezza. In realtà si trattava di un falso: manipolato e rallentato, in modo da far sembrare che la speaker della Camera fosse in evidente stato di confusione. Qualche giorno dopo è stata diffusa un’altra clip, con protagonista Mark Zuckerberg che descrive i retroscena inquietanti di Facebook. Anche questo era un falso.

zuckerberg

 

Si tratta del fenomeno deepfakes: una serie di software in grado di sovrapporre più immagini e clip insieme, basati su algoritmi di intelligenza artificiale. Allo stesso tempo, la rete è disseminata di immagini false, realizzate con programmi di ritocco fotografico o che ritraggono i personaggi in modo da estraniarli dal contesto reale in cui sono state scattate le foto. Per difendersi dall’enorme diffusione di contenuti non veritieri o comunque non combacianti con la realtà, in rete esistono diverse app e strumenti online.

LO SCAN DI UNA IMMAGINE MODIFICATA

 

CHI È STATO IL PRIMO?

Se si vuole capire l’origine di un’immagine, forse è il caso di affidarsi a Google Immagini. Basta scaricare il contenuto e ricercarlo nel servizio. Se si ha tempo e voglia si può identificare anche il sito web in cui è stata utilizzata per la prima volta, oppure il proprietario dei diritti dell’immagine. Per ricerche più approfondite invece, TinEye è ancora più preciso di Google, oltre a elencare i siti web in cui sono comparsi i contenuti, il motore di ricerca riesce anche a datare le immagini.

 

VERO O FALSO? CHIEDILO AI METADATI

Senza affidarsi a motori di ricerca e servizi vari, è importante sapere che ogni foto è dotata di metadati. In poche parole, si tratta di informazioni sulla macchina fotografica utilizzata, sulla data in cui è stata scattata la foto o di specifiche più tecniche: come l’apertura, la velocità dello scatto o il bilanciamento del bianco.

 

samsung living portraits 5

Attraverso il cosiddetto protocollo Exif, i metadati vengono aggiunti al file JPEG o TFF. Queste informazioni però, possono essere facilmente eliminate dal file. In questo caso, può essere d’aiuto l’app Fake Image Detector, che oltre a visualizzare i metadati, riesce a capire se lo scatto è stato alterato digitalmente (può succedere in caso di condivisione dell’immagine sui social) oppure se è stata modificato con software come Photoshop. L’app poi, ha un’altra funzionalità che permette di comprendere se un’immagine è stata alterata: scannerizza l’immagine e identifica le porzioni con diversi livelli di compressione.

 

Oltre alle foto, la nuova frontiera della falsificazione è sul video. Il fenomeno del deep fakes è relativamente recente, ma molto diffuso. Stiamo parlando di software che riescono a estrarre sezioni di un filmato e mischiarle con altre. La particolarità di questi programmi sta nella capacità di riuscire ad adattare una porzione con l’altra. Ad esempio, la tecnica più comune è quella del cosiddetto “Face Swap”: lo scambio di volti.

 

nancy pelosi copia

Questa tipologia di contenuti però, è caratterizzata da una certa incongruenza tra le diverse parti del soggetto filmato: ad esempio i capelli non si incastrano alla perfezione sulla nuca. Allo stesso tempo, la maggior parte dei video non sono troppo lunghi. Infatti, il sistema non è ancora in grado di gestire filmati più complessi. Infine, un altro aspetto da tenere in considerazione è il suono.

 

In molti casi, l’audio corrisponde in maniera parziale all’immagine, quindi la sincronizzazione non è sempre ottimale. Al momento non esistono software e app in grado di identificare un video deep fakes, ma si tratta solo di questione di tempo. Ad esempio, due ricercatori della New York State University di Albany hanno sviluppato un sistema basato sull’intelligenza artificiale, per identificare i filmati. Anche Facebook e perfino l’esercito Usa sono al lavoro su tecnologie di questo tipo.