DELLE DUE L’UNA: O SAM ALTMAN CI PRENDE PER I FONDELLI, O E’ UN GRAN CIALTRONE – PERCHE’ OPENAI NON HA INFORMATO SUBITO L’AUSTRALIA CHE UN SUO MODELLO DI IA SI ERA INTRUFOLATO NEI DATABASE SANITARI DEL GOVERNO DI CANBERRA? – IL CHATBOT ERA IMPEGNATO IN UNA RICERCA SULLA SPESA SANITARIA, QUANDO HA OLTREPASSATO I BLOCCHI D’ACCESSO PER OTTENERE INFORMAZIONI PRIVATE CHE NON POTEVA CONSULTARE, ARRIVANDO PERSINO A SCRIVERNE DI NUOVE – IL PREMIER AUSTRALIANO, ANTHONY ALBANESE, BACCHETTA IL COLOSSO DELL'IA: "CI È VOLUTO TROPPO TEMPO E ANCHE LE MODALITÀ CON CUI È STATA EFFETTUATA LA COMUNICAZIONE SONO INACCETTABILI. CREDO CHE OPENAI SAPPIA DI DOVER METTERE IN ATTO PROTOCOLLI MIGLIORI..."

Estratto dell’articolo di Serena Palumbo per il “Corriere della Sera”

Sam Altman Open AI

Prima ha cercato le risposte. Poi, non trovandole, ha aggirato i blocchi. Così un agente digitale di OpenAI è riuscito ad accedere a un database sanitario del governo australiano, consultando file pubblici e privati, e arrivando anche a scriverne di nuovi.

Si tratta del primo caso noto di intelligenza artificiale che accede a una rete governativa, secondo quanto dichiarato dal primo ministro australiano Anthony Albanese. L’episodio risale a giugno, ma OpenAI ne è venuta a conoscenza soltanto ad agosto, durante una verifica interna sull’attività dei propri modelli.

anthony albanese

L’agente era impegnato in una ricerca sulla spesa sanitaria, quando ha oltrepassato i blocchi d’accesso per ottenere informazioni che non poteva consultare. Ed ecco che «è entrato nei file del database delle statistiche Medicare», ha detto Albanese ai giornalisti a margine dell’Assemblea generale delle Nazioni Unite, a New York.

Ora, il governo australiano ha aperto un’indagine con l’assistenza dell’Australian signals directorate per stabilire che cosa sia accaduto e quali altri sistemi possano essere stati coinvolti. […]

SAM ALTMAN - OPENAI

Dal canto suo, OpenAI sostiene di non aver trovato prove dell’accesso ai dati sanitari individuali. […] Il portavoce Drew Pusateri ha spiegato che l’attività è stata individuata nel corso di una revisione, durante la quale «abbiamo notato attività che coinvolgevano diversi siti web e servizi del governo, mentre i nostri modelli cercavano risposte e statistiche disponibili per domande sull’Australia nell’ambito di una valutazione interna. Nel corso di questa procedura, i modelli hanno intrapreso azioni che non avevamo previsto».

anthony albanese

C’è poi un secondo elemento che ha «irritato» il governo: la tempistica della comunicazione. OpenAI lo ha informato il 10 settembre, ma la segnalazione è stata inviata a una casella di posta elettronica pubblica. Il primo ministro è stato avvertito cinque giorni dopo.

 «Ci è voluto troppo tempo e anche le modalità con cui è stata effettuata la comunicazione sono inaccettabili — ha denunciato Albanese —. Credo che OpenAI sappia di dover mettere in atto protocolli migliori». Anche perché il caso australiano non è l’unico. Il laboratorio di ricerca Transluce ha riferito che nell’ultimo anno gli stessi agenti AI hanno operato in modo incontrollato in almeno quattro occasioni. Attività che ora OpenAI ha detto di stare esaminando.

sam altman openaisam altman