AI, AHI AHI: L’INTELLIGENZA ARTIFICIALE POTREBBE ENTRARCI IN CASA! – L’ULTIMO ALLARME DI ANTHROPIC: ENTRO POCHI MESI, I MODELLI DI IA POTREBBERO REPLICARSI AUTONOMAMENTE NEI NOSTRI “DEVICE” CONNESSI A INTERNET, PERSINO I FORNI INTELLIGENTI E LE SMART TV – PER L’AZIENDA DI DARIO AMODEI, IN QUESTO MODO SAREBBE QUASI IMPOSSIBILE FERMARE I SOFTWARE, PERCHE’ NON ESISTE UN “PUNTO DI SPEGNIMENTO” CENTRALIZZATO – LA STARTUP DI SAN FRANCISCO DICHIARA CHE PER IL MOMENTO NON ESISTE ANCORA UN "REPLICATORE COMPLETAMENTE FUORI CONTROLLO", MA…

Anthropic - software ai claude

(ANSA) - Mancano ormai "pochi mesi" affinché i modelli di IA di piccole dimensioni sviluppino le capacità necessarie per replicarsi autonomamente su dispositivi domestici connessi a Internet, senza datacenter. È l'ultimo avvertimento che lancia Anthropic sui potenziali rischi per la sicurezza legati a questa tecnologia, contenuto in una ricerca che la stessa azienda americana ha pubblicato sul suo blog.

Anthropic ha illustrato come i modelli di IA potrebbero potenzialmente infiltrarsi in dispositivi connessi - come forni intelligenti o box Tv - e sfruttarne la potenza di calcolo per diffondersi in altri dispositivi. Sarebbe "difficile arrestare" un simile modello di IA, afferma la società, "poiché non esiste un punto di spegnimento centralizzato".

dario amodei

La società ha dichiarato di aver condotto diversi test per verificare se l'IA fosse in grado di autoreplicarsi. Uno di questi ha comportato l'esecuzione di un modello ridotto di Google, Gemma4-26B-A4B, su una rete composta da 15 box Android TV economici, di marchi minori.

Anthropic ha detto che non esiste ancora un "replicatore completamente fuori controllo", ma che gli agenti stanno "diventando sempre più capaci di completare le singole fasi della catena di replicazione".

Anthropic - software ai claude

La ricerca si aggiunge alle crescenti preoccupazioni in materia di sicurezza legate all'Intelligenza artificiale, come la capacità dei modelli di sferrare attacchi informatici e il rischio che la tecnologia sfugga al controllo. A settembre, i progressi nei modelli di frontiera hanno sollevato allarmi in tutto il settore riguardo a rischi esistenziali per l'umanità. Dirigenti e ricercatori di Anthropic e della rivale OpenAI hanno più volte messo in guardia sui potenziali rischi di un'IA sempre più potente; alcuni hanno invocato misure di sicurezza più rigorose e interventi per controllare il ritmo di sviluppo della tecnologia.

    "Guardando oltre i nostri esperimenti, prevediamo un futuro caratterizzato da una proliferazione di agenti in esecuzione su ogni tipo di hardware inclusi alcuni sistemi non soggetti a controllo umano", ha concluso Anthropic.