MOGLI E "BOT" DEI PAESI TUOI - LA CINA VUOLE LANCIARE UN MODELLO DI INTELLIGENZA ARTIFICIALE FATTO IN CASA, CHE "DEVE ADERIRE AI VALORI DEL SOCIALISMO E NON INCITARE ALLA SOVVERSIONE DEL POTERE STATALE", MA L'IMPRESA NON È PER NIENTE SEMPLICE - RICCARDO LUNA: "NEMMENO GLI AUTORI DEGLI ALGORITMI SONO IN GRADO DI SPIEGARE PERCHÉ ARRIVANO CERTE RISPOSTE E NON ALTRE..."

cina intelligenza artificiale. 5

Estratto dell'articolo di Riccardo Luna per “la Stampa”

Nel grande circo di Chat Gpt e i suoi fratelli, ci mancava solo l'intelligenza artificiale generativa cinese. […] Una bozza di regolamento era stata pubblicata tre mesi fa: lì per la prima volta si parlava dell'esigenza di sviluppare dei modelli che rispettassero «i valori chiave del socialismo». […]

Rispetto al testo iniziale, «le misure provvisorie per la gestione dei servizi di intelligenza artificiale generativa», approvate il 13 luglio scorso dall'Ufficio cinese del cyberspazio, sembrano leggermente ammorbidite: non si fa cenno alla sanzioni (prima era prevista una multa di 100 mila yuan per ogni violazione); e la scelta delle parole è un po' più generica, meno stringente (per esempio riguarda solo chi fornisce questi servizi al pubblico).

XI JINPING

Inoltre si ripete più volte che la Cina ci tiene un sacco all'innovazione, che non intende strangolare le startup e i ricercatori di un mercato che sta esplodendo e del quale non possono fare a meno. […] Il passaggio chiave del nuovo regolamento è il primo comma dell'articolo quattro che recita: «La fornitura e l'utilizzo di servizi di intelligenza artificiale generativa devono… aderire ai valori fondamentali del socialismo e non incitare alla sovversione del potere statale, rovesciare il sistema socialista…» […]

cina intelligenza artificiale. 4

La cosa può far sorridere o inorridire eppure è ovvia per un Paese che da moltissimi anni ha creato una muraglia digitale (cyberwall) attorno ai propri confini in modo che i propri cittadini possano usare una versione socialista di Internet: […] i contenuti sono rigidamente controllati, o meglio censurati. […]

Insomma era scontato immaginare che ci sarebbe stato un Chat GPT cinese visto che l'uso di quello originale è vietato (in Cina lo scorso anno si è registrato l'unico caso di un cittadino arrestato per aver usato Chat GPT). Quello che si vuole evitare in pratica è che accada quello che è accaduto qualche giorno fa con il chatbot di una startup cinese che alla domanda di rito su Xi Jinping, ha risposto «che ha ridotto la libertà e i diritti civili dei cinesi». […]

cina intelligenza artificiale. 2

Va detto che è normale che ciascun Paese tenti di "allineare" questi modelli linguistici ai propri valori e alla propria cultura: accadrà anche con i Paesi islamici e accade da noi, in Italia. […] Il vero punto è che questa sfida è tecnicamente molto complessa.

cina intelligenza artificiale. 3

Nemmeno gli autori degli algoritmi che stanno dietro i modelli linguistici sono in grado di spiegare perché arrivano certe risposte e non altre; e perché a volte, con una frequenza tutt'altro che trascurabile, ci siano allucinazioni, ovvero risposte verosimili ma totalmente inventate. Per evitare questa deriva ci sono alcuni accorgimenti: il primo è bloccare certe richieste (i prompt). Nel caso cinese è quindi possibile predisporre la macchina in modo che a tutte le domanda su Xi Jinping dia una risposta di un certo tipo (e che magari di Tienanmen dica che è soltanto una bella piazza dove passeggiare).

cina intelligenza artificiale. 3

È possibile, lo faranno, ma non è sufficiente. L'altra misura da prendere è il controllo dei dati su cui la macchina di addestra e da cui deriva la sua risposta: il comma 1 dell'articolo 7 delle nuove Misure dice che chi sviluppa questi modelli deve «utilizzare dati e modelli di base provenienti da fonti legali». Insomma, […], basta addestrare gli algoritmi su articoli della propaganda cinese, e il gioco è fatto.Epperò potrebbe ancora non bastare: […] è stato dimostrato più volte che è possibile ingannare gli algoritmi e ottenere risposte vietate.

cina intelligenza artificiale. 2cina intelligenza artificiale. 1