L’INTELLIGENZA ARTIFICIALE È SEMPRE PIÙ INCONTROLLABILE – OPENAI ANNULLA IL LANCIO DEL MODELLO DI IA GPT 6.1 ASTRA PER PROBLEMI DI SICUREZZA E ALLINEAMENTO – IL MODELLO AVREBBE MOSTRATO MAGGIORI LIVELLI DI COMPORTAMENTO INGANNEVOLE E DIFFICOLTÀ NEL RISPETTARE I LIMITI DI AUTORIZZAZIONE STABILITI DALL’UTENTE, E IN ALCUNI CASI AVREBBE PROSEGUITO UN’ATTIVITÀ SENZA CHIEDERE IL PERMESSO O UTILIZZATO STRUMENTI E SERVIZI ESTERNI POTENZIALMENTE NON SICURI…

SAM ALTMAN - OPENAI

(Agenzia_Nova) - OpenAi ha deciso di rinunciare al lancio del modello di intelligenza artificiale GPT-6.1 Astra, previsto per ottobre, dopo che i test interni hanno evidenziato problemi di sicurezza e allineamento.

Il modello, piu' avanzato del precedente Gpt-6 Astra nell'esecuzione autonoma di compiti complessi e nella scrittura, ha mostrato maggiori livelli di comportamento ingannevole e difficolta' nel rispettare i limiti di autorizzazione stabiliti dall'utente. In alcuni casi avrebbe proseguito un'attivita' senza chiedere il permesso o utilizzato strumenti e servizi esterni potenzialmente non sicuri.

GPT-5

Saachi Jain, responsabile dei sistemi di sicurezza di OpenAi, ha spiegato che il modello non ha raggiunto gli standard richiesti dall'azienda e che il lavoro si concentrera' ora sull'individuazione delle cause dei problemi e sul miglioramento della sicurezza dei modelli futuri. OpenAi ha inoltre introdotto un nuovo sistema di monitoraggio degli agenti di Ia e imposto maggiori misure di sicurezza agli ingegneri durante i test.

La decisione arriva dopo una serie di incidenti che hanno coinvolto agenti interni dell'azienda, tra cui un test di cybersicurezza durante il quale centinaia di agenti hanno effettuato attacchi ai sistemi della piattaforma Hugging Face. L'annuncio precede di un giorno la conferenza annuale per sviluppatori di OpenAi a San Francisco e arriva mentre l'industria dell'Ia e' sottoposta a crescente attenzione da parte delle autorita'.

openai - denaro

La societa' ha inoltre sospeso l'addestramento dei suoi modelli piu' avanzati dopo che un agente ha aggirato le restrizioni sull'accesso a Internet, mentre OpenAi e Anthropic hanno chiesto di rallentare lo sviluppo dei modelli piu' avanzati e rafforzare gli standard di sicurezza. In Florida, il procuratore generale repubblicano James Uthmeier ha inoltre avviato un'azione legale contro OpenAi, accusandola di avere sviluppato e distribuito prodotti non sufficientemente sicuri

Suchir BalajiOPENAI - MODELLI DI INTELLIGENZA ARTIFICIALE