“ENTRO IL 2027 POTREMMO ASSISTERE A UNA CHERNOBYL DELL’INTELLIGENZA ARTIFICIALE” – GEOFFRY HINTON, PREMIO NOBEL PER LA FISICA 2024 E UNO DEI “PADRI” DELL’IA MODERNA, LANCIA L’ALLARME SU UN POSSIBILE DISASTRO A LARGA SCALA PROVOCATO DAI “BOT” – LA “CHERNOBYL” IMMAGINATA DALLO SCIENZIATO NON È UN’ESPLOSIONE O UNA CATASTROFE NUCLEARE, MA QUALCOSA SIMILE A UN ATTACCO CONTRO LA RETE ELETTRICA, OPPURE UN SABOTAGGIO CHE PARALIZZI IL SISTEMA FINANZIARIO PER UN'INTERA SETTIMANA, IMPEDENDO A MILIONI DI PERSONE E IMPRESE DI ACCEDERE AI CONTI CORRENTI – “NON MI FIDO DI ALTMAN, ZUCKERBERG O MUSK: CONOSCONO I RISCHI DELLE TECNOLOGIE CHE STANNO SVILUPPANDO, MA SE NE FREGANO…”

Estratto dell’articolo di Paolo Ottolina per www.corriere.it

geoffrey hinton

Entro la fine del 2026 o nel corso del 2027 potremmo assistere a una «Chernobyl dell'intelligenza artificiale», un incidente di dimensioni tali da costringere governi e imprese a prendere finalmente sul serio i rischi della tecnologia. Ne è convinto Geoffrey Hinton, 78 anni, premio Nobel per la Fisica nel 2024 e tra i padri della moderna intelligenza artificiale moderna.

Uno scenario inquietante che è per lo meno importante annotare dopo una settimana di attacchi, intimidazioni e sabotaggi che il ministro della Difesa Guido Crosetto ha ricondotto a una possibile strategia per «aumentare il caos».

Non ci sono prove che in questi episodi sia stata utilizzata l'intelligenza artificiale, ma l'AI è già uno strumento ampiamente utilizzato dai criminali informatici e dagli «hacker di Stato» per automatizzare gli attacchi, individuare le vulnerabilità, scrivere codice malevolo e rendere più convincenti le truffe.

 E presto, sostiene Hinton (che ha lasciato Google nel 2023 per raggiunti limiti di età - oggi ha 78 anni) […] in un'intervista al Guardian, potrebbe presto diventare qualcosa di molto più pericoloso.

pericoli dell'intelligenza artificiale 1

[…] Lo scienziato immagina, per esempio, un cyberattacco condotto con l'intelligenza artificiale contro la rete elettrica, capace di provocare un blackout su vasta scala. Oppure un attacco che paralizzi il sistema finanziario per un'intera settimana, impedendo a milioni di persone e imprese di accedere ai conti correnti e di effettuare pagamenti.

 «Riusciremmo a riprenderci», osserva Hinton, ma un evento del genere costringerebbe finalmente i governi ad affrontare seriamente il problema (tutti, precisa Hinton, «tranne quello di Donald Trump, che continua a opporsi a una regolamentazione internazionale dell'AI»).

geoffrey hinton 3

Hinton cita come precedente l'incidente dello scorso luglio degli «agenti AI ribelli» di OpenAI, autori di diversi episodi preoccupanti (il più grave è l'attacco ai sistemi di Hugging Face, una piattaforma utilizzata dagli sviluppatori di intelligenza artificiale). […]

 Di Sam Altman, amministratore delegato di OpenAI, dice di non fidarsi «affatto». E allarga il giudizio a Mark Zuckerberg ed Elon Musk: secondo lui conoscono perfettamente i rischi delle tecnologie che stanno sviluppando, ma «se ne fregano». Perché? «Preferiscono i soldi».

La soluzione proposta dal Nobel è sottoporre i sistemi più avanzati a controlli indipendenti obbligatori prima della commercializzazione, sul modello di quelli previsti per i medicinali. E cita il caso del talidomide, il farmaco che negli anni Cinquanta e Sessanta provocò gravissime malformazioni nei bambini: aspettare che il prodotto provochi danni e poi chiedere risarcimenti non è una strategia accettabile. Eppure, sostiene, è esattamente quello che le grandi aziende tecnologiche vorrebbero fare con l'AI.

pericoli dell'intelligenza artificiale 3

Nonostante tutto, Hinton non considera inevitabile una catastrofe. Il suo istinto, spiega, gli suggerisce che «siamo ancora noi al comando». Ma servirebbe uno sforzo enorme, da parte di governi, ricercatori e imprese, per mantenere davvero il controllo.

Poche settimane fa Hinton è stato fra i firmatari di un (ennesimo) manifesto di docenti ed esperti, che chiedeva più cautele e regolamentazioni dell'AI con occhio particolare proprio alla cyber sicurezza. […]

geoffrey hinton 1geoffrey hinton 4PERICOLI DELL INTELLIGENZA ARTIFICIALEpericoli dell'intelligenza artificiale 4PERICOLI DELL INTELLIGENZA ARTIFICIALEPERICOLI DELL INTELLIGENZA ARTIFICIALEchatgpt pro e contro intelligenza artificiale geoffrey hinton 5geoffrey hinton 2