IL PARADOSSO: L'ALGORITMO NON RIESCE A RICONOSCERE L’ALGORITMO – L’ESCLUSIONE DAL PREMIO GONCOURT DI THÉLYSON ORÉLIEN, AUTORE ACCUSATO DI AVER SCRITTO IL SUO ROMANZO CON L'AI, STA TERREMOTANDO IL MONDO DELL’EDITORIA CHE CORRE AI RIPARI: IN AMERICA E IN FRANCIA STANNO PENSANDO A UN BOLLINO CHE CERTIFICHI “L’ORIGINE UMANA” DI UN LIBRO. MA RESTA UN PROBLEMA: COME SI POTRÀ MAI RIUSCIRE A CONTROLLARE CHE UN’OPERA SIA “UMANA”? – NELLE UNIVERSITÀ SONO DIFFUSI GLI “AI DETECTOR” PER INCHIODARE GLI STUDENTI CHE SI AFFIDANO ALL'ALGORITMO PER SCRIVERE LE TESI. MA ALLA PROVA DEL NOVE DIVERSE AI NON SONO STATE IN GRADO DI INDIVIDUARE SE UN TESTO FOSSE STATO SCRITTO DA UN UOMO...

Estratto dell’articolo di Sara Scarafia per “la Repubblica”

libri generati dall intelligenza artificiale

L'elefante è nella stanza e il mondo dell'editoria trema. Dopo la clamorosa esclusione dal premio Goncourt di Thélyson Orélien, l'autore accusato da un account di X di aver scritto il suo romanzo utilizzando l'IA, nessuno si sente al sicuro.

E l'Italia non fa eccezione. E se accadesse a un autore in corsa a un premio letterario? Le case editrici stanno prendendo provvedimenti? Hanno una strategia? Il tema è all'ordine del giorno, confessano gli addetti ai lavori rigorosamente off the record [...]

Thelyson Orelien

Da Mondadori, con Einaudi, a Feltrinelli, al gruppo Gems tutti prendono tempo prima di esporsi. Del resto è un campo minato.

Nessun sistema di verifica, come dimostreremo, è sicuro. Allo stesso tempo chiunque può scaricare uno dei tanti sistemi di rilevazione disponibili in rete e, sulla base dei risultati, accusare un autore di aver pubblicato un libro che non è farina del suo sacco. In America, e adesso in Francia, gli editori stanno studiando un bollino – "questo libro è 100% umano" – da piazzare in copertina. Ma con quale certezza? Chi certifica chi?

libri generati dall intelligenza artificiale

Si chiamano "AI detector" e sul web se ne trovano tantissimi, gratuiti e a pagamento. Nelle università sono ormai usatissimi per inchiodare gli studenti che si affidano all'algoritmo per scrivere le tesi. E la macchina, il grande fratello artificiale, ingrassa con i dati che raccoglie. È l'IA che prima genera e poi controlla se stessa. Con esiti mai certi.

[...] Abbiamo scelto alcune pagine di sette romanzi italiani. Tre vincitori di premi e tre bestseller di genere che scalano le classifiche. L'ultimo è un classico della letteratura italiana, scritto quando l'IA non c'era ancora: La malora di Beppe Fenoglio, anno 1954. Abbiamo usato cinque diversi rilevatori: tre nella versione a pagamento – Pangram, ChatGpt e Perplexity – due in quelle gratuite, Originality e Textguard. I detector hanno concordato, certificandoli come cento per cento umani, solo su due romanzi vincitori di premi, Di spalle a questo mondo di Wanda Marasco, Campiello 2025, e I convitati di pietra di Michele Mari, Strega 2026. [...]

libri generati dall intelligenza artificiale

E negli altri casi? I sistemi non sono d'accordo, neanche nelle loro versioni a pagamento, quindi in teoria più accurate. Prendiamo due casi tra quelli sottoposti al test.

Uno è il romance dell'autrice più venduta in Italia, First lady per caso di Felicia Kingsley (Newton Compton).

libri generati dall intelligenza artificiale

L'altro è Le perfezioni di Vincenzo Latronico (Einaudi), finalista al prestigiosissimo Booker Prize nel 2025. In entrambi i casi, Pangram, lo stesso software che ha inchiodato Orélien, li certifica cento per cento umani. Perplexity, invece, quotatissimo tra gli accademici, è ambiguo.

Se su alcune pagine di Latronico dà una percentuale tra il 50 e il 65 per cento di utilizzo di IA, su altre praticamente la azzera: 3 per cento. Anche su Kingsley il giudizio è disomogeneo: in un caso attesta le pagine al 75 per cento umane.

libri generati dall intelligenza artificiale

Nel secondo la percentuale crolla al 40 per cento. È chiaro che qualcosa, nel sistema di rilevazione, non funziona.

Abbiamo sottoposto al test anche due titoli che hanno dominato le classifiche. L'ultimo dark romance di Carrie Leighton, che con la sua saga Better (Salani) ha venduto 500 mila copie, e uno dei romanzi di Gianluca Gotto, lo scrittore Mondadori "mistico" ininterrottamente in classifica da 210 settimane. Pangram li promuove entrambi al cento per cento.

libri generati dall intelligenza artificiale

Secondo Perplexity invece, nel caso di Leighton il romanzo è "IA assistito", quindi scritto con l'aiuto dell'algoritmo, in una forbice che va tra il 65 e l'80 per cento. La piattaforma gratuita Originality dà addirittura il 73 per cento di probabilità che sia generato dalla macchina. Ma che significa? Che l'IA avrebbe generato la trama? Che il testo è stato sottoposto a editing dal chatbot? Risposte incerte anche su Gotto. Pangram lo salva, Perplexity e Originality lo bocciano: per il primo software Quando inizia la felicità è IA assistito al 60 per cento, per l'altro è generato dall'IA al 93 per cento.

libri generati dall intelligenza artificiale

Come ultima prova, abbiamo sottoposto ai detector un incipit generato appositamente con l'intelligenza artificiale: un sistema di rilevazione gratuito gli ha concesso il 50 per cento di possibilità di essere autenticamente umano. Perplexity lo ha dato artificiale solo al 70 per cento. Pangram lo ha bocciato: non è umano.

Ma sulla base di quali criteri?

La risposta di Perplexity, alla quale l'abbiamo chiesto, è spiazzante: «Non esiste un insieme di parametri che permetta di stabilire con certezza, dal solo testo, che un brano sia stato scritto da IA. Esistono strumenti probabilistici».

libri generati dall intelligenza artificiale

[...] Un'altra criticità è che i chatbot sono addestrati soprattutto con i testi in lingua inglese. [...]

Thelyson Orelien