OCCHIO, LA VERA “ARMA FINE MONDO” È L’IA – MENTRE SIAMO AFFANNATI A DISTRICARCI TRA LE SPARATE DI TRUMP, IL MELONELLUM E L’AFFAIRE RANUCCI, PASSA IN SECONDO PIANO IL TEMA CRUCUALE PER IL NOSTRO FUTURO: L’INTELLIGENZA ARTIFICIALE È UN PERICOLO? SIAMO SICURI DI POTERLA CONTROLLARE? – L’ULTIMO AD AVER LANCIATO L’ALLARME È L’EX RICERCATORE DI ANTHROPIC, JACOB COXON, SECONDO CUI “L’AI POTREBBE STERMINARE L’UMANITÀ. STANNO GIOCANDO D'AZZARDO CON LE NOSTRE VITE” – GRAMELLINI: “NEL TOTALE DISINTERESSE DELL’OPINIONE PUBBLICA, GLI STATI HANNO INCREDIBILMENTE LASCIATO ALL’INIZIATIVA PRIVATA L’AI. L’ARMA TECNOLOGICA PIÙ POTENTE DELLA NOSTRA EPOCA È NELLE MANI DI INDIVIDUI E SOCIETÀ CHE NON HANNO ALTRA PREOCCUPAZIONE CHE IL PROFITTO ECONOMICO…”

1. UN’ATOMICA PRIVATA

Estratto dell’articllo di Massimo Gramellini per il “Corriere della Sera”

Jacob Coxon

Il giovane scienziato Jacob Coxon si è dimesso da Anthropic, uno dei colossi dell’Intelligenza artificiale, accusando la sua e le altre aziende del settore di essere una manica di irresponsabili. Coxon è l’ennesimo esperto a denunciare la cieca avidità dei padroni dell’AI, che in nome della competizione più sfrenata stanno riducendo i sistemi di sicurezza, creando così le condizioni perché la situazione sfugga loro di mano [...]

Sono un ottimista di natura, però vi chiedo: se le valigette con i codici della bomba atomica, invece che nelle mani degli apparati statali (non solo di certi presidenti, per fortuna...), si trovassero in quelle di pochi privati cittadini, dormireste tranquilli la notte? E se Polizia e Carabinieri fossero imprese a scopo di lucro, non sareste un po’ preoccupati?

PERICOLI DELL INTELLIGENZA ARTIFICIALE

[...] l’arma tecnologica più potente della nostra epoca è stata lasciata nelle mani di individui e società che non hanno altra preoccupazione che il profitto economico: a qualunque costo, compreso quello di perdere il controllo della propria creazione.

Nel totale disinteresse dell’opinione pubblica, gli Stati hanno incredibilmente lasciato all’iniziativa privata l’Intelligenza artificiale, cioè uno dei pochi settori che invece dovrebbe essere sotto il loro esclusivo controllo. Forse non è ancora troppo tardi per rimediare.

2. "PRESTO L'AI POTREBBE UCCIDERCI TUTTI" LASCIA UN RICERCATORE DI ANTHROPIC

Estratto dell’articolo di Jacopo Iacoboni per “La Stampa”

Jacob Coxon

[...] A luglio, oltre 1.300 dipendenti di aziende come OpenAI, Anthropic, Google DeepMind e Meta, impegnate nello sviluppo di sistemi di intelligenza artificiale di frontiera, firmarono una lettera aperta al governo Usa, parlavano di un «rischio concreto che lo sviluppo delle capacità acceleri rapidamente, superando la nostra possibilità di comprendere o controllare i sistemi risultanti».

La lettera esortava l'esecutivo a sostenere un'iniziativa internazionale per sviluppare strumenti capaci di «regolare deliberatamente il ritmo di avanzamento della frontiera dello sviluppo dell'Ai automatizzata». Risposta del governo Trump: non pervenuta.

Dario Amodei

Ieri però è esploso un caso concreto. Sollevato da due "whistleblowers" interni. Si è dimesso Jacob Coxon, ricopriva il ruolo di researcher ad Anthropic, dove si occupava soprattutto di "pretraining", cioè della fase di addestramento dei grandi modelli di Ai. [...]

Coxon ha reso pubbliche le sue motivazioni con alcune valutazioni perturbanti: «Mi sono dimesso oggi. Nessuna delle due aziende (OpenAI e Anthropic, ndr) sta agendo in modo responsabile. Stanno correndo dritte verso una superintelligenza auto-migliorante e stanno giocando d'azzardo con le nostre vite».

sam altman openai

Anche Samuel Marks, responsabile della supervisione in Anthropic, denuncia: «Gli sviluppatori di Ai ritengono che la loro tecnologia possa causare l'estinzione dell'umanità. Ciò potrebbe accadere nei prossimi anni. In generale, più elevato è il livello gerarchico del dipendente, maggiore è la sua preoccupazione».

[...]  Coxon spiega di essere contrario alla velocità con cui l'industria sta correndo verso sistemi auto-miglioranti: «Presto questi saranno sistemi sovrumani in grado di hackerare qualsiasi cosa, rivoluzionare qualsiasi campo dall'oggi al domani e acquisire vero potere e risorse».

E ancora: «Le persone che costruiscono l'Ai credono che potrebbe ucciderci tutti entro la fine del decennio. Molti dirigenti e ricercatori senior attenueranno le loro frasi sulla stampa ma sento le stesse persone esprimere paura in privato. Nessun'altra attività umana pone un livello di pericolo simile».

[...]

PERICOLI DELL INTELLIGENZA ARTIFICIALE

L'attacco a Hugging Face (una piattaforma dove ricercatori, sviluppatori e aziende possono condividere, scaricare e utilizzare modelli di Ai) avvenne nel luglio scorso: agenti Ai di OpenAI, durante un test di cybersecurity (in cui era previsto che i modelli venissero testati in un ambiente isolato) finirono per andare su Internet e attaccare l'infrastruttura di Hugging Face. Coxon, ricordando il caso, si rivolge alla comunità dei ricercatori: «Vi esorto a considerare come vi sentirete i prossimi anni».

SAM ALTMAN DARIO AMODEI

In Anthropic, Coxon non viene affatto liquidato come un pazzo o un mitomane. Anzi. È considerato una delle menti più autorevoli, nonostante la giovane età. Evan Hubinger, che guida il team Alignment Science ad Anthropic, pensa anche lui che «ci sia più del 10% di possibilità che entro il prossimo decennio l'Ai potrebbe uccidere tutti gli umani».

Hubinger fa certamente una stima più prudente, citando il secondo "Risk Report" di Anthropic, secondo il quale, dice, «il rischio dei modelli attuali è basso». Ma anche lui ammette: «Quello che mi preoccupa è la superintelligenza derivante dal miglioramento ricorsivo di sé, come abbiamo detto sta accadendo più velocemente di quanto pensassimo». [...]

daniela e dario amodei PERICOLI DELL INTELLIGENZA ARTIFICIALESAM ALTMAN IN TRIBUNALE Jacob Coxon