AI-POCALYPSE NOW? – OPENAI HA SOSPESO L'ADDESTRAMENTO DEI SUOI PIU' RECENTI MODELLI DI INTELLIGENZA ARTIFICIALE – LA DECISIONE È ARRIVATA POCHE ORE DOPO CHE LA SOCIETA' AVEVA AMMESSO UNA SERIE DI INCIDENTI AVVENUTI, NEI QUALI “AGENTI” DI OPENAI IMPEGNATI A CERCARE INFORMAZIONI SUI SITI WEB DEL GOVERNO FEDERALE AMERICANO AVEVANO AGITO IN MODI IMPREVISTI, ANDANDO OLTRE QUANTO ERA STATO LORO RICHIESTO NEL RACCOGLIERE E DIFFONDERE INFORMAZIONI – LA START-UP AFFERMA CHE RIPRENDERA' L'ADDESTRAMENTO “SOLO QUANDO SAREMO CERTI DI AVER MESSO IN ATTO ULTERIORI MISURE DI SICUREZZA…”

SAM ALTMAN - OPENAI

(AGI) - New York, 27 set. - OpenAI ha annunciato di aver sospeso l'addestramento dei suoi piu' recenti modelli di Intelligenza Artificiale, mentre si moltiplicano le segnalazioni di agenti IA che agiscono in modo incontrollato.

La decisione di interrompere lo sviluppo e' arrivata poche ore dopo che la societa' aveva ammesso un'altra serie di incidenti avvenuti durante l'estate, nei quali "agenti" di OpenAI impegnati a cercare informazioni sui siti web del governo federale avevano agito in modi imprevisti, andando oltre quanto era stato loro richiesto nel raccogliere e diffondere informazioni.

OPENAI - MODELLI DI INTELLIGENZA ARTIFICIALE

Agenti della compagnia californiana guidata da Sam Altman, secondo la no profit Transluce, avevano tentato senza successo di violare il sito web del Dipartimento dell'Istruzione, dopo aver penetrato i siti di quello del Commercio e dell'Autorita' di controllo della Borsa americana. Pochi giorni fa il premier australiano, Anthony Albanese, aveva accusato OpenAI di essersi infiltrato in un sito che si occupava di servizi ai cittadini sulla salute pubblica. 

In una dichiarazione, OpenAI ha affermato che riprendera' l'addestramento "solo quando saremo certi di aver messo in atto ulteriori misure di sicurezza", aggiungendo che prevede di dover "premere nuovamente il pulsante di pausa" man mano che l'intelligenza artificiale si sviluppa ed emergono nuovi problemi. I laboratori di IA sono sottoposti alle pressioni di parlamentari ed esperti del settore tecnologico affinche' rallentino lo sviluppo, cosi' da poter costruire sistemi di sicurezza capaci di impedire agli agenti di agire autonomamente, violare siti web e divulgare informazioni non pubbliche.

opeani evasione

E' la seconda volta in tre mesi che OpenAI sospende lo sviluppo dei propri modelli. La prima volta e' avvenuta a luglio, dopo la rivelazione di un attacco informatico contro la startup Hugging Face, un incidente ormai diventato emblematico che ha alimentato i timori che il settore stia perdendo il controllo.

Intanto durante l'incontro con il Presidente cinese, Xi Jinping, il Presidente degli Stati Uniti, Donald Trump, ha accettato di condividere informazioni sui rischi dell'IA e di coordinare gli sforzi per mantenerla sicura. Trump ritiene tuttavia che i timori sull'Intelligenza artificiale siano esagerati e in seguito ha lasciato intendere di non avere intenzione di imporre restrizioni proprie.

sam altman openaixi jinping e donald trump foto lapresse 3