SIAMO SICURI DI METTERE LA GUERRA “IN MANO” ALL’INTELLIGENZA ARTIFICIALE? NEL CONFLITTO IRANIANO L’ESERCITO USA STA IMPIEGANDO SISTEMI SUPPORTATI DALL’IA E IN GRADO DI FORNIRE OPZIONI DI ATTACCO MOLTO PIÙ RAPIDAMENTE RISPETTO ALLE PROCEDURE TRADIZIONALI: IL PERCORSO DI IDENTIFICAZIONE  DEGLI OBIETTIVI COME DELL’ARMA VIENE DECISO DALLE MACCHINE, MA IL COMPITO DI DARE IL VIA ALL’ATTACCO È ANCORA NELLE MANI DI UN UMANO – MA NON SI STA TENENDO CONTO BIAS PRESENTI NEI MODELLI IA CHE POTREBBERO METTERE A REPENTAGLIO LA VITA DEI CIVILI. SENZA CONTARE LA MANCANZA DI NORME: STATI UNITI, RUSSIA E CINA SONO CONTRARI A UN TRATTATO CHE PROIBISCA L’USO DELLE ARMI AUTONOME, PREFERENDO INVECE L’ADOZIONE DI UN LORO “USO RESPONSABILE” E…

Estratto dell’articolo di Futura d’Aprile per “Domani” 

guerra e intelligenza artificiale 8

La guerra in Iran ha riportato al centro del dibattito il ruolo dell’Intelligenza artificiale nel contesto bellico. L’esercito americano sta impiegando sistemi supportati dall’Ia e in grado di fornire opzioni di attacco molto più rapidamente rispetto alle procedure tradizionali.

Grazie all’Ia, la cosiddetta “kill chain", ossia il percorso che va dall’identificazione e dalla definizione delle priorità del bersaglio alla scelta dell’arma, fino alla valutazione dei danni, viene effettuato in un tempo molto più breve rispetto al passato e con un limitato intervento umano. In questo sistema definito del “man-in-the-loop”, il compito di dare il via libera all’attacco spetta ancora all’operatore umano, che si serve però dei dati elaborati dall’Intelligenza artificiale.

guerra e intelligenza artificiale 10

Nel contesto della guerra in Iran, il Pentagono utilizza principalmente il sistema operativo Maven Smart System di Palantir, supportato dal modello Claude di Anthropic. Nel giro di qualche mese, però, Claude verrà sostituito da un modello creato da OpenAI, dopo che Anthropic ha deciso di rescindere il contratto con il Pentagono. L’azienda ha rotto con l’amministrazione americana perché non ha ricevuto garanzie sul fatto che il suo modello non sarebbe stato utilizzato per sorvegliare i cittadini americani e per lo sviluppo di armi completamente autonome.

guerra e intelligenza artificiale 9

Lo scontro tra Pentagono e Anthropic non è un problema solo americano. L’Intelligenza artificiale continua ad avanzare in tempi molto rapidi, mentre sono stati fatti pochi passi in avanti nella sua regolamentazione.

A livello internazionale l’Onu ha nominato, a febbraio, un comitato scientifico […] nonostante anni di discussioni su un possibile quadro regolamentare, manca ancora un accordo tra le grandi potenze. Stati Uniti, Russia e Cina sono contrari a un Trattato che proibisca l’uso delle armi autonome, preferendo invece l’adozione di un loro «uso responsabile».

guerra e intelligenza artificiale 5

Uno degli argomenti più discussi nella regolamentazione dell’Ia nei contesti bellici è quello dell’accountability. Il diritto internazionale si basa fondamentalmente sul giudizio umano per garantire principi come quello della proporzionalità, facilitando così l’attribuzione di responsabilità, che si tratti di quella individuale o statale. Le armi autonome, però, portano con sé livelli di complessità tali da rendere altamente problematico dimostrare l'intenzionalità o la negligenza da parte di sviluppatori, militari o semplici operatori.

guerra e intelligenza artificiale 4

Anche i bias presenti nei modelli Ia non sono da sottovalutare. Come spiega il Sipri, distorsioni indesiderate e involontarie nei sistemi di Ia militari possono essere introdotte in diversi momenti durante il loro sviluppo e utilizzo. In ambito militare, ciò comporta rischi per i civili, che potrebbero essere invece identificati come soggetti attivi nel conflitto.

Questo rischio è particolarmente evidente nelle armi autonome, ma anche i sistemi che lasciano la decisione finale all’uomo possono indurre a questo errore. L’operatore umano è portato ad avere fiducia nelle conclusioni tratte dall’Ia, senza considerare che la soluzione offerta potrebbe invece essere compromessa a causa di un database distorto.

guerra e intelligenza artificiale 6

[…] L’Unione ha approvato l’Ai Act, ma il regolamento non si applica ai sistemi di Intelligenza artificiale sviluppati o utilizzati «esclusivamente per scopi militari, di difesa o di sicurezza nazionale», secondo quanto stabilito dall’articolo 2 comma 3. Nel mentre, però, il settore della difesa europeo continua a sviluppare e implementare sistemi che utilizzano l’Ia senza dover sottostare alle limitazioni imposte in ambito civile a tutela dei diritti dei cittadini europei.

guerra e intelligenza artificiale 7

Ciò significa che i sistemi di Ia militari possono essere addestrati su set di dati classificati e che possono presentare dei bias operativi. Inoltre, viene meno quella valutazione di conformità alle norme in materia di gestione del rischio, governance dei dati e sicurezza informatica che si applica invece al settore civile.

L’esclusione del settore militare dall’Ai Act non tiene in considerazione un altro fatto: le tecnologie sviluppate per la difesa possono essere usate anche per la sicurezza. Le forze di polizia, quindi, potrebbero usare uno strumento creato per scopi militari che non è dovuto passare per i controlli imposti dal regolamento europeo nel suo processo di creazione.

guerra e intelligenza artificiale 3

Tutte queste criticità dovrebbero essere affrontate rapidamente a livello europeo […]

guerra e intelligenza artificiale 1guerra e intelligenza artificiale 2