FINALMENTE OPENAI SI È RESA CONTO CHE LA SUA IA POTREBBE ESSERE PERICOLOSA – L’AZIENDA DI SAM ALTMAN HA MESSO IN PAUSA LO SVILUPPO DEL SUO MODELLO DI INTELLIGENZA ARTIFICIALE “ASTRA” – I TEST INTERNI DELLA SOCIETÀ HANNO MOSTRATO CAPACITÀ INFORMATICHE “POTENZIALMENTE CRITICHE”: IL BOT SAREBBE IN GRADO DI SCOPRIRE VULNERABILITÀ E PIANIFICARE ATTACCHI INFORMATICI COMPLESSI AUTONOMAMENTE, SENZA INTERVENTO UMANO…

chatgpt

(ANSA) - OpenAI ha deciso di rallentare lo sviluppo e di sospendere alcune attività relative ad Astra, un nuovo modello di intelligenza artificiale in fase di realizzazione.

La misura si è resa necessaria nei giorni scorsi in seguito ai risultati delle recenti valutazioni interne che, secondo un post sul blog dell'azienda, hanno evidenziato progressi significativi del sistema nel campo della programmazione e della sicurezza informatica.

   "Non possiamo escludere capacità critiche" - spiega OpenAI - le valutazioni preliminari indicano prestazioni sufficientemente elevate. Astra non è stato coinvolto nella violazione di Hugging Face". Il riferimento è ad un recente incidente di sicurezza in cui modelli avanzati di OpenAI sono riusciti, privi di precedenti istruzioni, a individuare una falla informatica nella piattaforma usata da programmatori e sviluppatori, per accedervi senza autorizzazione.

sam altman openai

   Secondo i parametri del piano di gestione dei rischi di OpenAI, Astra ha raggiunto un livello "critico", associato ad un sistema capace di individuare ed elaborare autonomamente vulnerabilità informatiche o di pianificare ed eseguire attacchi digitali complessi, senza operatori umani.

    Di recente, anche il concorrente Anthropic ha riportato scenari nei quali il suo modello Claude più avanzato ha mostrato capacità di analisi e violazione di software, in assenza di comandi specifici. E in un altro caso, in Australia, un assistente che girava sulla piattaforma OpenClaw ha sfruttato falle nel sistema di prenotazione di una palestra per favorire il proprio utente. (ANSA).

hugging face hugging face

evasione di chatgptopeani evasione