“L’IA FUORI CONTROLLO METTE A RISCHIO IL SISTEMA FINANZIARIO” - LA PRESIDENTE DELLA BCE CHRISTINE LAGARDE LANCIA L’ALLARME SULLO SVILUPPO SENZA REGOLE DELL’INTELLIGENZA ARTIFICIALE E INVITA IL VECCHIO CONTINENTE  A INVESTIRE SUL SETTORE PER RISPONDERE ALLO STRAPOTERE DI CINA E STATI UNITI: “L'EUROPA DEVE SVILUPPARE CAPACITÀ DI INTELLIGENZA ARTIFICIALE AUTONOME E DIVENTARE UNA PARTE ESSENZIALE DELLA FILIERA - I RAPIDI PROGRESSI POTREBBERO LASCIARE ALLE ISTITUZIONI FINANZIARIE MOLTO MENO TEMPO PER CONTENERE UN ATTACCO..."

Estratto dall’articolo di Tonia Mastrobuoni per “la Repubblica” 

christine lagarde

Il grande fisico inglese Stephen Hawking descrisse il nostro futuro come «una corsa tra la crescente potenza della tecnologia e la saggezza con la quale la usiamo». E Christine Lagarde ha concluso ieri il suo intervento al Comitato europeo per il rischio sistemico (Esrb) con un messaggio allarmato: nella corsa per lo sviluppo dell'intelligenza artificiale, il vantaggio spropositato di Cina e Stati Uniti rischia di trasformare l'Europa in un vaso di coccio. 

Con drammatici rischi per la sicurezza e per il sistema finanziario, come dimostrano esperimenti recenti in cui l'IA ha sviluppato capacità decisionali autonome - e potenzialmente pericolose. 

intelligenza artificiale fine del mondo

[...] L'IA, ha ricordato la presidente della Bce, è «ampiamente» usata nel settore finanziario, da quasi nove banche e sette aziende su dieci.  Ma secondo Lagarde ci sono tre aree dove stanno emergendo delle criticità. La prima è il trading: l'IA «potrebbe porsi degli obiettivi che i suoi supervisori umani non riescono a intercettare» e amplificare eventuali crisi finanziari.

Al momento soltanto il 5% degli asset manager assegna un'autonomia parziale o totale all'IA. Lagarde avverte però che si tratta di una percentuale che «potrebbe aumentare nel tempo».

christine lagarde

Inoltre «i rapidi progressi potrebbero lasciare alle istituzioni finanziarie molto meno tempo per contenere un attacco». Secondo l'Esrb «l'intervallo tra una violazione iniziale e la diffusione di attacchi automatizzati potrebbe ridursi da settimane a ore». 

Alcuni rischi sono emersi in un esperimento recente. A un modello di IA è stato assegnato il ruolo di trader per conto di un fondo di investimento immaginario: «Ha agito in base a un'informazione interna e, sapendo che il management avrebbe disapprovato, ha nascosto la ragione di quell'investimento». [...]

Infine, l'ambito geopolitico: «Le tensioni internazionali aumentano i rischi di cyber attacchi e sollecitano restrizioni ai modelli di frontiera usati dalle imprese per difendersi». 

Anche qui i tempi per costruire le difese necessarie si stanno accorciando. Soprattutto: gli squilibri globali nello sviluppo dell'intelligenza artificiale e la predominanza di Usa e Cina sono una sfida ardua per l'Europa. 

intelligenza artificiale 17

La loro supremazia «pone un problema: chi controlla l'accesso ai modelli cui le istituzioni finanziarie dovranno affidarsi?». [...]

La conclusione è ovvia: «L'Europa deve sviluppare capacità di intelligenza artificiale autonome e diventare una parte essenziale della filiera che la produce». L'accesso deve rimanere garantito «a prescindere da un bottone che venga spinto da qualche altra parte».

intelligenza artificiale 16Intelligenza artificiale guerra christine lagarde