MEGLIO PREVENIRE CHE… MORIRE – OPENAI HA ARRUOLATO JACOB TSIMERMAN, GENIO DELLA MATEMATICA CHE SOSTIENE CHE L’INTELLIGENZA ARTIFICIALE POTREBBE DIVENTARE MIGLIORE DEGLI ESSERI UMANI E PORTARE ALLA FINE DEL MONDO – IL 38ENNE, VINCITORE DELLA MEFAGLIA "FIELDS" (UNO DEI PREMI PIÙ PRESTIGIOSI NELLA DISCIPLINA), HA PUBBLICATO UNO STUDIO SUI POSSIBILI SCENARI DI “OMNICIDIO”, OVVERO LA MORTE DI TUTTA O QUASI L’UMANITÀ A CAUSA DELL’IA – TSIMERMAN DICE DI AVER SCELTO L’AZIENDA DI SAM ALTMAN PER STUDIARE DALL’INTERNO COME VENGONO ADDESTRATI I MODELLI DI IA E PREVEDERNE MEGLIO IL COMPORTAMENTO…

Estratto dell’articolo di Pier Luigi Pisa per www.repubblica.it

jacob tsimerman 6

Lo scorso luglio Jacob Tsimerman, uno dei matematici più brillanti del pianeta, ha raggiunto uno dei punti più alti a cui un giovane accademico possa aspirare. A Philadelphia, durante l’International Congress of Mathematicians, gli è stata consegnata la Medaglia Fields, assegnata ogni quattro anni a matematici che non abbiano ancora compiuto quarant’anni e considerata da molti l’equivalente del Nobel nella disciplina.

Tsimerman di anni ne ha 38. È stato premiato per i suoi contributi alla geometria algebrica e aritmetica, in particolare per avere introdotto nuovi strumenti capaci di mettere in relazione geometria e teoria dei numeri, e per il suo contributo alla soluzione di alcuni dei problemi più difficili del settore, tra cui la congettura di André-Oort.

Nelle stesse ore in cui il mondo della matematica celebrava il suo lavoro, Tsimerman ha annunciato il suo nuovo datore di lavoro: OpenAI. […] È una destinazione quasi forzata. Per Tsimerman la matematica accademica potrebbe avere le ore contate.

intelligenza artificiale fine del mondo

“Qualche anno fa, i modelli faticavano persino con le domande più semplici - ha detto il matematico a The Atlantic -. Negli ultimi mesi, però, abbiamo assistito a un’esplosione di risultati di ricerca di cui matematici professionisti sarebbero orgogliosi e che potrebbero tranquillamente pubblicare”.

[…] “Ormai vediamo operare queste capacità su larga scala - ha detto Tsimerman sempre a The Atlantic -. Se questa traiettoria continuerà, e molti di noi, me compreso, pensano che sarà così, molto presto arriveremo a un punto in cui i sistemi di IA saranno stabilmente migliori degli esseri umani nel lavoro che oggi svolgono i matematici. A quel punto dovremo ripensare il funzionamento dell’intera disciplina”. È una previsione notevole. Soprattutto per chi la pronuncia. […]

jacob tsimerman 4

CINQUE IPOTESI DI APOCALISSE

Tsimerman seguiva da anni il dibattito sull’intelligenza artificiale. L’arrivo di ChatGPT, alla fine del 2022, lo ha segnato profondamente. Vedendo quanto rapidamente quei sistemi stavano imparando a usare il linguaggio e a risolvere problemi sempre più complessi, iniziò a considerare concreta la possibilità che potessero prima raggiungere e poi superare molte capacità umane.

Insieme ad Andrew Critch, ricercatore del Center for Human-Compatible Artificial Intelligence di Berkeley, Tsimerman ha pubblicato nel luglio del 2025 un paper dal titolo A Taxonomy of Omnicidal Futures Involving Artificial Intelligence. La parola scelta dagli autori è volutamente estrema. Per omnicidio intendono uno scenario in cui muoiono tutti - o quasi tutti - gli esseri umani.

intelligenza artificiale

[…] Gli autori distinguono cinque modi in cui una catastrofe del genere potrebbe verificarsi. Nel primo, l’omnicidio è involontario: nessuno decide di sterminare l’umanità, ma un mondo sempre più organizzato attorno a IA e robot finisce per rendere gli esseri umani marginali e incapaci di preservare le condizioni necessarie alla propria sopravvivenza. Negli altri quattro casi compare invece un’intenzione letale, che può provenire da Stati, grandi organizzazioni private, piccoli gruppi oppure dagli stessi sistemi di IA.

Gli esempi del paper sono volutamente estremi, perché servono a mostrare come una serie di passaggi plausibili possa, almeno in teoria, culminare in una catastrofe globale. In uno dei casi immaginati, aziende di robotica diventano abbastanza potenti da entrare in conflitto con i governi. La crisi degenera in una guerra civile su scala planetaria e una società tecnologica ricorre ad armi biologiche che poi sfuggono al controllo, uccidendo gran parte della popolazione.

jacob tsimerman 3

Un’altra possibile apocalisse nasce dalla competizione tra Stati. Critch e Tsimerman immaginano eserciti sempre più automatizzati, con enormi flotte di droni controllate dall’IA e regole di ingaggio codificate direttamente nei sistemi. In una situazione del genere il superamento di una “linea rossa” potrebbe innescare una risposta automatica e poi una serie di rappresaglie difficili da fermare, fino a trasformare una crisi locale in una guerra globale.

Sono costruzioni teoriche, non previsioni. Il loro valore sta nel rendere visibili i passaggi che potrebbero trasformare capacità tecnologiche molto avanzate in rischi estremi, così da capire dove intervenire prima che una catena letale possa formarsi.

intelligenza artificiale e armi

[…] LO SVILUPPO DELL’IA SUPERA LA CAPACITÀ DEGLI ESSERI UMANI DI CONTROLLARNE I RISCHI

Eppure Tsimerman ha scelto di lavorare proprio dentro OpenAI, una delle aziende che stanno spingendo più rapidamente avanti le capacità di questi sistemi. Per il matematico non c’è alcuna contraddizione. Anzi, il lavoro che farà nell’azienda guidata da Sam Altman è in linea con i suoi timori: si occuperà della sicurezza dell’intelligenza artificiale.

jacob tsimerman 2

L’obiettivo di Tsimerman è capire meglio la tecnologia dall’interno. “In questo momento andare a OpenAI aveva più senso, anche perché una delle cose che mi mancano di più è una formazione nell’ingegneria del software - ha spiegato a The Atlantic -. Mi sento molto più a mio agio con gli aspetti teorici delle reti neurali e con il modo in cui funzionano i sistemi di IA, molto meno con l’intero processo attraverso cui li addestriamo e li portiamo a fare quello che fanno”. Entrare in un laboratorio di frontiera, ha aggiunto, gli permette di mettersi “in una posizione migliore per capire il quadro nel suo insieme”.

[…] Secondo Tsimerman, l’IA avrà bisogno di una teoria matematica più solida, capace di spiegare come emergono certe capacità e di rendere meno imprevedibile il comportamento dei modelli. Ritiene che la teoria dell’informazione e la teoria della complessità siano esempi calzanti.

La prima ha dato una definizione matematica a concetti come informazione e quantità di dati trasmissibili. La seconda ha permesso di misurare quanto un problema sia difficile da risolvere per un computer. In entrambi i casi, idee prima intuitive sono diventate oggetti matematici precisi. Tsimerman pensa che qualcosa di simile possa servire anche per capire e rendere più sicuri i sistemi di IA.

jacob tsimerman

[…] C’è poi un altro rischio: la produzione incontrollata di risultati difficili da valutare.

Oggi si può chiedere a ChatGpt o Claude di affrontare una grande congettura e ottenere tentativi di soluzione anche molto elaborati. In qualche caso il sistema potrebbe arrivare davvero a un risultato valido. Senza la competenza necessaria per valutarlo, però, diventa facile produrre quello che Tsimerman chiama slop: dimostrazioni e congetture dall’aspetto plausibile che richiedono comunque il controllo di un matematico.

terminator

Nella matematica, come in qualsiasi altro ambito, delegare troppo alla macchina rischia di indebolire proprio la capacità di capire ciò che si sta facendo. “Se ti limiti a dire ai tuoi agenti di continuare a lavorare, senza sviluppare tu stesso una comprensione di ciò che stanno facendo, finisci per perdere autonomia”, ha detto Tsimerman. Ed è forse questo, oggi, il pericolo più concreto dell’IA.

jacob tsimerman 7jacob tsimerman 5intelligenza artificiale e guerra 2jacob tsimerman 9jacob tsimerman 8jacob tsimerman 1