L’INTELLIGENZA ARTIFICIALE PUÒ FARE MOLTI DANNI – IERI LA BORSA AMERICANA È CROLLATA DI COLPO A CAUSA DELL’IMMAGINE FARLOCCA, DIVENTATA VIRALE SU TWITTER, DI UN ATTACCO AL PENTAGONO GENERATA DELL’IA - WALL STREET È CADUTA NELLA TRAPPOLA E HA PERSO 85 PUNTI IN UN ISTANTE – TUTTO È PARTITO DA UN ACCOUNT “VERIFICATO”, CON TANTO DI SPUNTA BLU, CHE HA DIFFUSO LA FOTO RILANCIATA DALLA TV RUSSA "RT" FINANZIATA DA PUTIN...

1. “ATTACCO AL PENTAGONO” UN FAKE SU TWITTER SPAVENTA WALL STREET

Estratto dell’articolo di Pier Luigi Pisa per “la Repubblica”

LA FALSA FOTO DEL PENTAGONO IN FIAMME

«Forte esplosione vicino al Pentagono, a Washington». Il tweet, pubblicato alle 10 del mattino del 22 maggio dall’account Bloomberg Feed, include una foto inquietante. Una colonna di fumo lambisce un edificio governativo.

Sul social di Musk lo scatto diventa virale. Il timore di un altro 11 settembre scuote la borsa di New York. Il Dow Jones, per diversi minuti, va sotto di 85 punti. Ma non c’è stato un attacco. Non è esploso un ordigno. È solo l’ennesima fake news, stavolta più sofisticata.

pentagono

Lo scatto che ha fatto tremare l’America, infatti, è stato creato dall’intelligenza artificiale. Come il finto piumino bianco di Bergoglio e i falsi funerali di Berlusconi in Piazza Duomo a Milano. Anche la foto del Pentagono, una volta ingrandita, mostra le imprecisioni tipiche prodotte dall’IA: in alcuni punti le transenne sembrano fondersi, le finestre appaiono disordinate, la facciata stessa dell’edificio non somiglia tanto a quella del Pentagono.

Allora come ha fatto a ingannare Wall Street? A prima vista, le immagini create dall’IA sembrano verosimili. Per stabilire la loro autenticità bisogna analizzare i dettagli. Ma questa operazione di fact-checking viene meno, su Twitter, quando un’immagine è condivisa da un account che vanta una “spunta blu”. […]

elon musk e spunta blu 2

Come è successo nel caso del falso attacco al Pentagono. L’account che ha diffuso la foto incriminata, infatti, non aveva nulla a che vedere con Bloomberg. Un utente - ora sospeso - ha semplicemente clonato il nome e la grafica della media company americana. E ha fatto leva sulla spunta blu per raggirare i più distratti.

Ci sono cascati in molti. Anche l’account ufficiale di RT, la tv russa finanziata da Putin, ha condiviso con i suoi follower l’immagine generata dall’IA. I pompieri della Contea di Arlington, dove si trova il Pentagono, sono stati costretti a smentire - sempre su Twitter - «le notizie circolate sui social riguardanti un’esplosione».

2. FOTO E NOTIZIE FALSE, MISCELA «ESPLOSIVA»

Estratto dell’articolo di Paolo Ottolina per il “Corriere della Sera”

elon musk e spunta blu 4

Dobbiamo lasciare che le macchine inondino i canali di informazione con propaganda e falsità? Lo chiedeva Elon Musk nella lettera aperta dello scorso marzo, con cui sollecitava uno stop di sei mesi allo sviluppo dell’intelligenza artificiale. Musk però farebbe bene a porsi altre (e più sincere) domande, se avesse a cuore la lotta alle fake news e, più in generale, la tenuta della democrazia.

Il caso della falsa esplosione al Pentagono è diventato un esempio perfetto di rischi già molto attuali. […]  I campanelli d’allarme sono due. Il primo è la capacità dei sistemi di intelligenza artificiale generativa di creare foto false ma verosimili, come nei recenti casi — capaci di ingannare milioni di utenti — di Trump in prigione o del Papa vestito con strani giubbotti.

elon musk e spunta blu 3

Il secondo aspetto stavolta è anche di maggior rilievo. Per scelta di Musk, la spunta blu su Twitter non accerta più che siamo di fronte a un profilo verificato (un media o un personaggio pubblico). Oggi è solo un «vanity badge», ottenuto pagando. Nel caso della fake news del Pentagono, la fonte iniziale era un account «blu», @BloombergFeed. Nessun legame con la celebre agenzia finanziaria […]