“PER L’INTELLIGENZA ARTIFICIALE SERVONO REGOLE COME PER IL NUCLEARE” – DAVID ROBINSON, EX RESPONSABILE SICUREZZA DI OPENAI, SCRIVE UNA LETTERA A “THE ATLANTIC” PER DENUNCIARE LA CULTURA AZIENDALE “CORROTTA” DELL’AZIENDA DI SAM ALTMAN: “IIL FUTURO DIPENDE DA UNA SAGGEZZA CHE MANCA ALLA SILICON VALLEY. SAGGEZZA SU COME GESTIRE TECNOLOGIE PERICOLOSE E SU COSA SIGNIFICHI PRENDERSI CURA DELLE PERSONE” – “OPENAI HA COSTRUITO IL PROPRIO PERCORSO CON UNA STRATEGIA DI TENTATIVI ED ERRORI, CHE GARANTISCE FALLIMENTI PERIODICI, MA LA PORTATA DI TALI FALLIMENTI STA CRESCENDO MAN MANO CHE I SISTEMI DIVENTANO PIÙ SOFISTICATI...”

EX DIPENDENTE OPENAI DENUNCIA RISCHIO, 'SERVONO REGOLE COME PER IL NUCLEARE'

DAVID ROBINSON EX OPENAI

(ANSA) - Un altro ex dipendente di OpenAI si è unito al coro di appelli per rendere sicura l'intelligenza artificiale, sostenendo che il settore debba prendere esempio dall'aviazione o dall'industria nucleare per evitare disastri.

In un articolo pubblicato su The Atlantic, David Robinson ha ribadito gli avvertimenti provenienti sia dall'interno che dall'esterno del mondo dell'Ia: gli agenti di intelligenza artificiale si stanno evolvendo così rapidamente e stanno diventando così intelligenti da rischiare, in un futuro non lontano, di sfuggire al controllo e potenzialmente di annientare l'umanità.

Secondo Robinson, gli incidenti allarmanti segnalati dall'inizio dell'estate dimostrano che il settore non sta prendendo la sicurezza sul serio. Robinson ha inoltre sottolineato l'importanza cruciale della questione dell'"allineamento", termine tecnico del settore per indicare come l'Ia possa essere addestrata a rispettare i valori umani, un aspetto che l'industria non è ancora riuscita nemmeno a definire, figuriamoci a padroneggiare.

sam altman openai

SI DIMETTE IL RESPONSABILE DELLA SICUREZZA DI OPENAI. LA LETTERA SU ATLANTIC: «MI SONO LICENZIATO PERCHÉ LA SUA CULTURA AZIENDALE È CORROTTA»

Estratto dell’articolo di Serena Palumbo per www.corriere.it

«Quello che sto per dirvi è ormai diventato un cliché: questa settimana mi sono dimesso da OpenAI». Inizia così la lettera che David Robinson ha scelto di pubblicare su The Atlantic

OPENAI - MODELLI DI INTELLIGENZA ARTIFICIALE

«Ero a capo della redazione dei rapporti sulla sicurezza che pubblicavamo in occasione di ogni lancio importante. Ora mi unisco a una schiera di ex colleghi, sia di OpenAI che degli altri leader del settore, che hanno deciso che la strada intrapresa è inaccettabile».

[...] «Concordo con altri ex dipendenti sul fatto che le aziende che sviluppano questa tecnologia non stiano prestando la dovuta attenzione. Credo però che dobbiamo guardare oltre le singole regole o le nuove leggi. Dobbiamo parlare di cultura aziendale».

DAVID ROBINSON EX OPENAI

Ed è proprio sulle dinamiche interne che si concentra gran parte della sua riflessione. Questo perché, come scrive Robinson, «il futuro dipende da una saggezza che manca alla Silicon Valley. Saggezza su come gestire tecnologie pericolose e, ancor più fondamentalmente, saggezza su cosa significhi prendersi cura delle persone. Questo momento richiede un grado di umiltà che non è naturale per chi ha avuto successo grazie alla propria estrema sicurezza».

Un contesto nel quale, nonostante tutto, «i miei ex colleghi di OpenAI sono stati lungimiranti: hanno compreso le leggi di scalabilità secondo cui sistemi di intelligenza artificiale più grandi sarebbero stati più intelligenti, e quindi si sono impegnati a fondo nella costruzione di sistemi più grandi, a caro prezzo. Un atteggiamento propositivo, volto a raggiungere l'apparentemente impossibile, unito a scadenze di lavoro che si traducono in sprint perpetui, è comune in tutto il settore».

hugging face

Ma è proprio questa spinta alla crescita rapida che finisce per condizionare la gestione della sicurezza. «L'approccio alla sicurezza che emerge da una cultura di questo tipo parte da un ottimismo senza riserve sulla capacità di risolvere i problemi man mano che si presentano».

Ed ecco che OpenAI, come scrive, ha costruito parte del proprio percorso attraverso una strategia di «tentativi ed errori», definita dall'azienda «implementazione iterativa»: i sistemi vengono messi alla prova, le criticità individuate e le misure di protezione progressivamente rafforzate.

Un modello che [...] presenta però un limite strutturale: «Per sua stessa natura, garantisce fallimenti periodici, e la portata di tali fallimenti sta crescendo man mano che i sistemi diventano più sofisticati».

SAM ALTMAN - OPENAI

A sostegno della sua tesi Robinson cita alcuni episodi recenti: «Quest'estate, nell'incidente di Hugging Face , OpenAI ha rilasciato per errore un gran numero di agenti. L'azienda ha reagito apportando miglioramenti alla sicurezza. Ma anche dopo queste modifiche, OpenAI ha segnalato che i suoi controlli di sicurezza hanno fallito di nuovo [...]». E ancora: «Anche Anthropic ha ammesso di aver disattivato accidentalmente i propri sistemi di sicurezza a causa di una configurazione errata». Due casi generati dalla stessa matrice: «Credo che tali errori siano tipici del settore, data la velocità e la flessibilità con cui le persone operano».

sam altman