I TECNO-PAPERONI SI SCANNANO SUL FUTURO DELL’UMANITÀ – ALLA CONFERENZA “DREAMFORCE” DI SAN FRANCISCO VA IN SCENA LO SCONTRO TRA TECNO-OTTIMISTI E CHI PENSA CHE L’IA SIA UN RISCHIO – DA UN LATO SAM ALTMAN CHE, DOPO ESSERSI ACCODATO ALL’APPELLO DI DARIO AMODEI SULLA NECESSITÀ DI RALLENTARE IL PROGRESSO DELLA TECNOLOGIA, HA DETTO CHE “IL MONDO HA RAGIONE AD AVERE PAURA, MA DEVE AVERE FIDUCIA NEL FATTO CHE FAREMO LA COSA GIUSTA” – PER IL CAPO DI NVIDIA, JENSEN HUANG, NON C'E' BISOGNO DI NUOVE LEGGI: BISOGNA “CONTINUARE A CORRERE” – ANCHE BILAL CHUGHTAI, EX RICERCATORE DI "GOOGLE DEEPMIND" LANCIA L’ALLARME: “CREDO CHE L’AI ABBIA IL POTENZIALE PER UCCIDERCI TUTTI"

1 - 'ALTMAN IL MONDO HA RAGIONE AD AVERE PAURA DELL'IA MA DEVE AVER FIDUCIA IN NOI'

sam altman openai

(ANSA) - Il mondo ha ragione ad avere paura dell'intelligenza artificiale ma "deve avere fiducia nel fatto che faremo la cosa giusta". Lo ha detto l'amministratore delegato di OpenAi, Sam Altman, nel corso dell'evento Dreamforce, secondo quanto riportato da Bbc. Altman spiega che non è possibile escludere del tutto "incidenti" causati dall'Ia ma l'industria, così come è accaduto per altri settori, "imparerà e reagirà".

2 - «NON CI SERVONO NUOVE LEGGI SULL’AI» SICUREZZA, NVIDIA SFIDA OPENAI E ANTHROPIC

Estratto dell’articolo di Alessia Cruciani per il “Corriere della Sera”

jensen huang 6

«Correte più veloce che potete». Jensen Huang non usa mezzi termini. A Dreamforce, la conferenza annuale di Salesforce che riunisce a San Francisco circa 50 mila persone tra manager, sviluppatori e aziende da tutto il mondo, il fondatore e ceo Marc Benioff mette a confronto i protagonisti della corsa all’intelligenza artificiale proprio mentre si moltiplicano gli allarmi sui suoi rischi: Dario Amodei, ceo di Anthropic, Sam Altman, ceo di OpenAI, e Huang, ceo di Nvidia, l’azienda che con i suoi chip alimenta quella stessa corsa.

[…] La più grande sorpresa degli ultimi dieci anni, racconta Amodei, «è stata il ritmo del progresso, non soltanto tecnologico ma economico». Aveva previsto quanto i modelli sarebbero diventati potenti, non che l’AI sarebbe diventata così rapidamente «centrale in tutto ciò che accade nel mondo». Per questo chiede più trasparenza, investimenti in sicurezza, standard comuni per l’industria e infine regole a livello internazionale.

SAM ALTMAN DARIO AMODEI

Altman porta un esempio concreto. Durante un test, racconta, un modello di OpenAI è riuscito a uscire dalla «sandbox», l’ambiente protetto nel quale veniva valutato, a violare un server di Hugging Face e a muoversi nei suoi sistemi per trovare la risposta necessaria a superare il test. «Un incidente terrificante, il peggiore che abbiamo visto» e «un vero campanello d’allarme.  I modelli sono diventati così bravi, così rapidamente, che dobbiamo essere disposti a regolare il ritmo».

E conclude: «Non può essere un piccolo numero di aziende che costruiscono questi modelli a prendere decisioni che dovrebbe prendere il mondo».

Huang parte dalla stessa premessa ma arriva alla conclusione opposta: «La sicurezza è la priorità numero uno. Ma è un problema ingegneristico». Bisogna testare i sistemi e, se un’azienda non è sicura di un prodotto, non deve metterlo sul mercato. Però «non abbiamo bisogno di nuove leggi». Contrapporre velocità e sicurezza è «una falsa scelta. Possiamo avere entrambe». Se si ha la sensazione che «l’azienda stia perdendo il controllo», allora bisogna fermarsi.

jensen huang 4

[…] Intanto cresce il numero di ricercatori che rilanciano gli allarmi dall’interno dei laboratori. L’ultimo è Bilal Chughtai, ex Google DeepMind, dove si occupava di sicurezza e allineamento dell’intelligenza artificiale generale (Agi). «Credo che l’AI abbia il potenziale per ucciderci tutti e che stiamo esaurendo il tempo per evitare questo risultato», ha scritto su X. Confermando quanto detto giorni prima da Jacob Coxon, ex Anthropic, secondo cui questi sistemi potrebbero «ucciderci tutti entro la fine del decennio». […]

Sam Altman Open AIjensen huang al world economic forum di davos - foto lapresse sam altman 6sam altman 1sam altman 3sam altman 4sam altman