DAGOREPORT - SE NON CADONO SULLA FIGA, CADONO SULLA VANITÀ (AL LIMITE DELLA MEGALOMANIA) – A…
(ANSA) - OpenAI ha deciso di rallentare lo sviluppo e di sospendere alcune attività relative ad Astra, un nuovo modello di intelligenza artificiale in fase di realizzazione.
La misura si è resa necessaria nei giorni scorsi in seguito ai risultati delle recenti valutazioni interne che, secondo un post sul blog dell'azienda, hanno evidenziato progressi significativi del sistema nel campo della programmazione e della sicurezza informatica.
"Non possiamo escludere capacità critiche" - spiega OpenAI - le valutazioni preliminari indicano prestazioni sufficientemente elevate. Astra non è stato coinvolto nella violazione di Hugging Face". Il riferimento è ad un recente incidente di sicurezza in cui modelli avanzati di OpenAI sono riusciti, privi di precedenti istruzioni, a individuare una falla informatica nella piattaforma usata da programmatori e sviluppatori, per accedervi senza autorizzazione.
Secondo i parametri del piano di gestione dei rischi di OpenAI, Astra ha raggiunto un livello "critico", associato ad un sistema capace di individuare ed elaborare autonomamente vulnerabilità informatiche o di pianificare ed eseguire attacchi digitali complessi, senza operatori umani.
Di recente, anche il concorrente Anthropic ha riportato scenari nei quali il suo modello Claude più avanzato ha mostrato capacità di analisi e violazione di software, in assenza di comandi specifici. E in un altro caso, in Australia, un assistente che girava sulla piattaforma OpenClaw ha sfruttato falle nel sistema di prenotazione di una palestra per favorire il proprio utente. (ANSA).
Ultimi Dagoreport
DAGOREPORT - SUL CASINO RANUCCI, DI RESPONSABILITÀ PENALI NON SAPPIAMO E NON POSSIAMO DIRE. MA C’È…
DAGOREPORT – SPLASH! GIORGIA, T’HANNO RIMASTO SOLA: DOPO TRUMP, ORA RISCHIA UN "VAFFA" ANCHE…
DAGOREPORT - L’INTELLIGENZA ARTIFICIALE? LA SOLITA SCUSA PER FAR LAVORARE I SOLITI, E FAR GIRARE…
FLASH – IL PROBLEMA PER URBANO CAIRO NON È TANTO IL POSSIBILE ADDIO DI ENRICO MENTANA, MA TROVARE…
DAGOREPORT – CHE SUCCEDERA' ALLA RIFORMA DELLA LEGGE ELETTORALE QUANDO VERRA' RIPRESENTATA ALLA…