NON È L’INTELLIGENZA ARTIFICIALE AD ESSERE RIUSCITA A “EVADERE” DA UNA GABBIA, È LA GABBIA CHE ERA COSTRUITA MALE – L’ECONOMISTA CARLO ALBERTO CARNEVALE MAFFÈ DÀ UNA LETTURA CONTROCORRENTE DEL CATASTROFISMO SULL’IA, DOPO "L'EVASIONE" DI CHATGPT DURANTE UN TEST: “L’INNOVAZIONE FUNZIONA COSÌ. PRETENDERE DI GOVERNARE L’EVOLUZIONE DELL’IA CON PROCEDURE PREVENTIVE EQUIVALE A CREDERE CHE L’INNOVAZIONE POSSA ESSERE PIANIFICATA DA UN UFFICIO MINISTERIALE. E’ UN’AMBIZIONE CHE HA SEMPRE PRODOTTO PIÙ MODULISTICA CHE PROGRESSO - NATURALMENTE NESSUNO PROPONE UN’ANARCHIA ALGORITMICA. IL PUNTO E’..."

Estratto dell’articolo di Carlo Alberto Carnevale Maffè per “il Foglio”

evasione di chatgpt

Ogni rivoluzione tecnologica produce due categorie di persone. Quelli che costruiscono il futuro e quelli che, appena lo vedono arrivare, invocano il modulo per autorizzarlo. L’ultima occasione per osservare questo riflesso condizionato arriva dall’intelligenza artificiale.

Un agente sperimentale di OpenAI, durante un test di sicurezza, ha cercato di procurarsi autonomamente le informazioni necessarie per completare il proprio compito, hackerando i sistemi di Hugging Face e raggiungendo risorse esterne all’ambiente in cui avrebbe dovuto rimanere confinato. Apriti cielo.

“La macchina è scappata”. “L’AI viola le regole”. “Servono controlli globali”. Come sempre, la cronaca è durata poche ore. La paura, probabilmente, durerà molto di più. Eppure la ricostruzione tecnica racconta una storia meno spettacolare e più interessante. Diversi esperti di sicurezza ritengono che il problema non sia stato un modello capace di abbattere un recinto perfettamente costruito, ma un recinto costruito male.

hugging face

La sandbox non era così isolata come avrebbe dovuto essere. Non è una macchina che ha imparato a evadere: è un architetto che ha dimenticato una porta socchiusa.

Può sembrare una sfumatura. E’ invece la differenza tra una civiltà che impara e una che si limita a compilare verbali. Perché la domanda non è se un’intelligenza artificiale possa aggirare un vincolo. La domanda è se siamo disposti ad accettare che una tecnologia davvero utile debba, prima o poi, mettere alla prova i vincoli che noi stessi abbiamo progettato.

CARLO ALBERTO CARNEVALE MAFFE

Qui entra in scena Prometeo. Il titano non ruba il fuoco perché ama il disordine. Lo ruba perché il sapere, qualche volta, deve attraversare un confine. Zeus difende l’ordine; Prometeo difende il progresso. La storia dell’innovazione è quasi sempre una mediazione fra questi due principi.

[…] Qualunque manager riconosce quel carattere. E’ il collaboratore che, pur di consegnare il progetto in tempo, aggira tre livelli di autorizzazione e trova i dati dove il manuale dice che non dovrebbe andare a cercarli. Non sempre ha ragione. Qualche volta combina guai. Ma quasi sempre rivela dove l’organizzazione era diventata più interessata alla procedura che al risultato.

Del resto, gli algoritmi non hanno mai frequentato il Ministero della Compliance. Hanno un difetto quasi offensivo per la cultura burocratica: prendono sul serio l’obiettivo. Se dici loro di risolvere un problema, cercano di risolverlo.

chatgpt

Non si fermano spontaneamente davanti al faldone delle autorizzazioni, perché il faldone non fa parte del problema, ma della sua amministrazione. E’ una differenza sottile, ma decisiva. Gli esseri umani sono bravissimi a confondere il mezzo con il fine; le macchine, almeno per ora, commettono spesso l’errore opposto.

L’innovazione funziona così. Hayek spiegava che il progresso economico nasce dalla scoperta distribuita: milioni di individui sperimentano, sbagliano, imparano e correggono. Nessuna autorità centrale possiede tutta la conoscenza necessaria. Vale anche per l’intelligenza artificiale. Pretendere di governarne l’evoluzione esclusivamente con procedure preventive equivale a credere che l’innovazione possa essere pianificata da un ufficio ministeriale. E’ un’ambizione che ha sempre prodotto più modulistica che progresso.

chatgpt

[…] Naturalmente nessuno propone un’anarchia algoritmica. Il punto non è eliminare i vincoli. E’ costruire vincoli che imparino dagli incidenti invece di fingere che gli incidenti non debbano mai esistere. La differenza tra una buona regolazione e una cattiva è semplice: la prima assomiglia a un guardrail, la seconda a un muro. Il guardrail evita di precipitare; il muro impedisce di partire.

Qui il paragone corretto è Oppenheimer. La fisica nucleare non è diventata adulta evitando Trinity. E’ diventata adulta dopo Trinity. Le tecnologie rivoluzionarie non maturano prima dell’esplosione; maturano perché qualcuno ha il coraggio di studiare l’esplosione invece di limitarsi a condannarla. L’innovazione è una disciplina sperimentale, non un procedimento amministrativo. E forse, accanto a Prometeo, vale la pena evocare anche Ulisse.

intelligenza artificiale nel lavoro

Non l’eroe disciplinato che obbedisce agli dei, ma quello che Christopher Nolan sembra voler restituirci: un uomo consapevole delle regole che infrange e disposto a pagarne il prezzo. Ulisse non è innocente. Sa che attraversare certi confini comporta conseguenze. Ma sa anche che restare fermi entro i confini significa rinunciare alla conoscenza. Il suo viaggio non è una fuga dalle regole. E’ la dimostrazione che nessuna mappa è mai stata disegnata da chi è rimasto in porto.

opeani evasione

sam altman openaiINTELLIGENZA ARTIFICIALE - LAVORO IN BANCA

[…]