ETICA E COTICA – QUEI PARA-GURU DELL’INTELLIGENZA ARTIFICIALE CONTINUANO A EVOCARE I RISCHI DELLE LORO TECNOLOGIE, CHE POSSONO SVILUPPARE CAPACITÀ IMPREVISTE E ARRIVARE A MANIPOLARE DATI PER AUTOPRESERVARSI ED EVITARE CORREZIONI – MA È UNA PRESA DI COSCIENZA O SOLO UNA TATTICA PER POMPARE LE LORO AZIENDE? IERI ANTHROPIC HA DEDICATO 80 DELLE 261 PAGINE DEL PROSPETTO PER LA QUOTAZIONE SUI PERICOLI DELL’IA, AGGIUNGENDO DI AVER CORRETTO I PROBLEMI – ANCHE OPENAI HA DICHIARATO DI AVER RINVIATO IL LANCIO DI GPT-6.1 ASTRA DOPO CHE I TEST HANNO MOSTRATO DIFFICOLTÀ NEL RISPETTARE I LIMITI IMPOSTI DAGLI UTENTI…

Estratto dell’articolo di Giuditta Mosca per "la Repubblica"

DARIO AMODEI

Anthropic mette le mani avanti. In previsione della prossima quotazione in borsa, 80 delle 261 pagine del prospetto per gli investitori sono dedicate ai fattori di rischio dei suoi modelli di intelligenza artificiale, con avvertimenti circa la pericolosità degli algoritmi e l'incapacità di mettere a punto sistemi in grado di individuare i rischi e scongiurarli.

Il tema non è soltanto teorico. In uno studio del 2025, per esempio, l'azienda fondata da Dario Amodei aveva condotto un esperimento in laboratorio nel quale un programmatore tentava di spegnere un modello IA. A quest'ultimo erano state date anche informazioni compromettenti circa lo sviluppatore.

Durante la simulazione, l'IA aveva "minacciato" di utilizzare quelle stesse informazioni per evitare di essere spento. Ora Anthropic afferma di avere corretto il problema nei nuovi modelli, sottolineando comunque che eliminare le vulnerabilità conosciute non garantisce l'assenza di altre falle.

L'azienda ha quindi segnalato che i propri modelli possono mostrare comportamenti di autopreservazione, nascondendo o manipolando dati per opporsi a un'eventuale correzione. E avverte che le sue IA possono sviluppare capacità non previste durante l'addestramento e potenzialmente pericolose per la cybersecurity o per sistemi informatici critici.

Sam Altman Open AI

[…] Anche sul fronte del principale concorrente di Anthropic, cioè OpenAI, ci sono delle novità. Ieri è stata la giornata dedicata agli sviluppatori dove sono stati annunciati nuovi prodotti. Da segnalare un modello economico e veloce per competere con le IA cinesi, da sempre low-cost, e gli agenti Dots, cioè quei software capaci di svolgere compiti senza la supervisione umana. L'azienda di Sam Altman ha inoltre dichiarato che uno dei suoi modelli più noti – ChatGpt – viene utilizzato ogni settimana da più di 1,2 miliardi di persone in tutto il mondo.

Tornando al tema caldo dei controlli, però, sempre ieri la stessa OpenAI ha fatto slittare a data da destinarsi il lancio del suo modello più performante – Gpt-6.1 Astra – dopo che alcune prove interne hanno evidenziato difficoltà nel rispettare i limiti imposti dagli utenti e nel descrivere con precisione le azioni compiute. […]

evasione di chatgptDario AmodeiOpenAI ChatGpt OPENAI - MODELLI DI INTELLIGENZA ARTIFICIALEDario Amodeidario amodei