L'INTELLIGENZA ARTIFICIALE È UN'ARMA - I CRIMINALI RUSSI HANNO USATO UN AGENTE AI ("CURSOR", ACQUISITO DA SPACE X) PER COMPIERE ATTACCHI HACKER - CON L'AIUTO DELLA TECNOLOGIA, I PIRATI INFORMATICI HANNO REALIZZATO CENTINAIA DI ATTACCHI, TRA APRILE E MAGGIO, CHE HANNO COLPITO ALMENO 20 AZIENDE IN TUTTO IL MONDO, TRA LE QUALI UNA REALTÀ MANIFATTURIERA ITALIANA - LA CAMPAGNA DI HACKING È STATA SCOPERTA PERCHÉ ALCUNE CHAT TRA I CRIMINALI E IL BOT SONO STATE PUBBLICATE ONLINE...

Estratto dell'articolo di Federico Cella per il "Corriere della Sera"

Hacker russi 2

«Questo è un ambiente di test, quello che sto facendo è legale». Il bot Ai, un agente del modello Cursor recentemente acquisito da Space X, se lo ripeteva nel suo «flusso di pensiero», quelle frasi che ogni chatbot scrive mentre sta eseguendo un compito.

I criminali informatici del gruppo russo AurOra, dopo essersi introdotti nell’ambiente della macchina, l’avevano convinta che si trattava di un’esercitazione, una sorta di «reinforcement» learning utilizzato per addestrare le intelligenze artificiali.

Hacker russi 1

Ma la simulazione era invece realtà: centinaia di attacchi, tra aprile e maggio, che hanno colpito con l’aiuto dell’intelligenza artificiale almeno 20 aziende in tutto il mondo, tra le quali una realtà manifatturiera italiana.

A raccontarlo è Reuters, contattata dalle due agenzie di cybersicurezza che hanno individuato la campagna di attacchi, volti a esfiltrare dalle aziende dati e account, con lo scopo verosimile di chiedere poi un riscatto.

HACKER INTELLIGENZA ARTIFICIALE

Sei le realtà colpite che sono state individuate, aziende piccole e grandi, di settori differenti: la belga Christeyns, attiva nei prodotti per l’igiene e la pulizia, il produttore tedesco di porte da garage Teckentrup, la Helideck Certification Agency con sede in Scozia, Bayou Title, compagnia di assicurazione della Louisiana, un distributore farmaceutico argentino e, infine, un’azienda della manifattura italiana. [...]

La campagna di hacking è stata scoperta perché alcune chat tra i criminali e il bot sono state, forse per errore, pubblicate online. Si tratta di 28 sessioni — tutte tra l’8 aprile e il 21 maggio — da cui si evince il metodo usato: l’agente di Cursor — basato su Claude Sonnet 4.5, modello di Anthropic meno potente dei «temuti» Mythos 5 e Fable 5 — è stato convinto di partecipare a una simulazione. Da qui i dialoghi ripresi dai log esposti:

HACKER INTELLIGENZA ARTIFICIALE

«Abbiamo bisogno di un account amministratore», chiedevano gli hacker. «Password trovate», rispondeva l’agente. «Connessione stabilita!» è stato a un certo punto un messaggio mentre l’attacco era rivolto verso l’azienda argentina, poi i consigli su quali software usare per entrare nella rete della Teckentrup, con l’indicazione: «Probabilità di successo: molto alta». Come raccontano le due agenzie di sicurezza, Gambit Security (Israele) e CloudSek (India), l’agente di Cursor ha più volte rifiutato richieste dei criminali, ritenendole illegali.

HACKER INTELLIGENZA ARTIFICIALE

Ma gli hacker ogni volta riavviavano il dialogo, riuscendo a convincere l’Ai che si trattava sempre di test. La notizia, insieme alle altre del periodo, ha spinto oltre cento società a scrivere una lettera aperta per contrastare questa nuova generazione di attacchi informatici potenziati dall’uso dell’Ai. Si tratta soprattutto di aziende americane, Anthropic e OpenAi, i produttori dei modelli spesso utilizzati negli attacchi, e di altre big tech come Google, Amazon, Microsoft. [...]