“L’IA NON SOLO INVENTA DATI SCIENTIFICI, MA PUÒ ANCHE ESSERE ADDESTRATA PER RENDERLI IRRICONOSCIBILI DA QUELLI VERI” – MILENA GABANELLI: “L’UTILIZZO DELL’IA NEL SETTORE MEDICO È TRA I PIÙ AVANZATI. MA SE LA RICHIESTA È BEN INDIRIZZATA PUÒ ANCHE INVENTARSI RISPOSTE DI SANA PIANTA. ALLORA LA DOMANDA È: CHE COSA SUCCEDE SE L’UTILIZZATORE HA SCOPI FRAUDOLENTI, E DALLE RISPOSTE DI CHATGPT, GEMINI O CLAUDE DIPENDE LA NOSTRA SALUTE?” – “PIÙ O MENO TUTTI I CHATBOT SI PRESTANO A FABBRICARE DATI FALSI. VUOL DIRE CHE UN RICERCATORE, MAGARI SPONSORIZZATO DA UN’AZIENDA FARMACEUTICA, POTREBBE..." - VIDEO

CLICCA QUI PER IL VIDEO - https://www.corriere.it/dataroom-milena-gabanelli/cosi-l-intelligenza-artificiale-e-usata-per-imbrogliare-negli-studi-clinici/604a5764-22d4-4f7c-accb-dfbd2e914xlk.shtml

Estratto dell’articolo di Andrea Priante,Milena Gabanelli per www.corriere.it

ia usata per falsificare i dati degli studi clinici dataroom 1

Tu chiedi e l’intelligenza artificiale risponde. Sempre. Il suo utilizzo nel settore medico è tra i più avanzati per complessità e impatto tecnologico, soprattutto nella diagnostica per immagini e nella scoperta di farmaci. Ma anche se la chiamiamo «intelligente», è pur sempre un software senza alcuna capacità di discernimento, e se la richiesta è ben indirizzata può anche inventarsi risposte di sana pianta. Allora la domanda è: che cosa succede se l’utilizzatore ha scopi fraudolenti, e dalle risposte di ChatGpt, Gemini o Claude dipende la nostra salute?

LA FALSIFICAZIONE DEGLI STUDI

Radiology Case Reports è una rivista scientifica specializzata in casi clinici. L’8 marzo 2024 pubblica uno studio israeliano intitolato «Gestione efficace di una lesione iatrogena della vena porta e dell’arteria epatica», in cui si spiega come salvare la vita a un paziente con gravi danni vascolari.

ia usata per falsificare i dati degli studi clinici dataroom 5

Dall’articolo, i ricercatori dimenticano di togliere una frase: «Mi dispiace ma non ho accesso a informazioni in tempo reale o a dati specifici per pazienti, dato che sono un modello linguistico AI». Il 22 maggio la rivista lo ritira e si scusa coi lettori per non essersi accorta che «gli autori hanno usato l’AI generativa nel processo di scrittura dello studio». Questo non significa che quello studio fosse completamente falso, ma la sciatteria dei ricercatori che hanno messo insieme dei copia e incolla senza nemmeno controllare legittima il dubbio.

[…] Ci casca perfino il New England Journal of Medicine , considerata la «bibbia» della Medicina: il 29 aprile di quest’anno ritratta la foto che, per la prima volta, mostra come il fumo d’un incendio causi pericolosi calchi bronchiali. Gli autori sono costretti ad ammettere di averla manipolata con l’AI «per renderla più ordinata».

ia usata per falsificare i dati degli studi clinici dataroom 6

Quanto sia possibile generare prove scientifiche dal nulla lo dimostra la ricerca pubblicata quest’anno su Radiology. Gli studiosi chiedono a ChatGpt di realizzare false radiografie di fratture ossee, le mescolano insieme ad altre autentiche e le mostrano a 17 radiologi, che riescono a riconoscere le cartelle fake solo nel 41% dei casi.

PUBBLICA O PERISCI

L’intelligenza artificiale — si legge su Nature — «sta rendendo gli scienziati iperproduttivi», infatti il 30% dei ricercatori usa ChatGpt per scrivere articoli, il 15% per le domande di finanziamento. La rivista precisa che il tema si pone quando questi programmi non vengono utilizzati solo per tradurre, raccogliere, o elaborare dati. […]

La corsa a produrre il maggior numero di articoli possibile ha diverse ragioni: 1) è l’unico modo certo per attribuirsi la paternità di una scoperta; 2) finire sulle riviste scientifiche influenza la carriera; 3) incide sulle classifiche di atenei e centri di ricerca; 4) attrae finanziamenti. In ambito accademico la chiamano «la regola del pubblica o perisci».

ia usata per falsificare i dati degli studi clinici dataroom 7

Un meccanismo dove gli errori in buona fede o i tentativi di frode ci sono sempre stati, ma che oggi sono enormemente facilitati dall’utilizzo di chatbot sempre più evoluti e abili nel mescolare il vero con il verosimile. E questo complica il lavoro dei revisori.

FONTI FALSE, SCIENZIATI FANTASMA

Negli studi scientifici ogni affermazione deve rimandare a fonti verificabili, ma fino al 69% delle citazioni suggerite dall’AI in ambito biomedico sono inesistenti. The Lancet ha fatto i conti: se nel 2023 uno studio su 2.828 conteneva almeno un riferimento falso, nelle prime 7 settimane del 2026 siamo saliti a uno su 277.

Il timore è che stiano sorgendo vere e proprie «cartiere» pagate per fabbricare articoli scientifici. Alle riviste stanno arrivando sempre più frequentemente proposte firmate da autori inesistenti, e il sospetto è che siano gli stessi sviluppatori di chatbot a inviare articoli per testare la capacità dell’AI di beffare i controlli.

[…] I RISCHI PER I PAZIENTI

ia usata per falsificare i dati degli studi clinici dataroom 3

Un test finito su Nature dimostra che più o meno tutti i chatbot — da Claude a Grok, fino a ChatGpt — si prestano a fabbricare dati falsi. Vuol dire che un ricercatore, magari sponsorizzato da un’azienda farmaceutica, potrebbe far passare per vero un intero studio che dimostri, ad esempio, l’efficacia di un medicinale che in realtà efficace non è.

[…] Solo di fronte a evidenti anomalie, le riviste chiedono all’autore di mostrare il database, e in tal caso è impossibile che il bluff possa sfuggire ai controlli. E invece...

COME SI INVENTA UN TRIAL CLINICO

 Il professor Giuseppe Giannaccare dell’Università di Cagliari e primario di oculistica, e il ricercatore Andrea Taloni dell’Università di Ferrara hanno testato la capacità di inganno dell’AI su un trial clinico.

Hanno preso due farmaci equivalenti nella cura della maculopatia — una degenerazione della retina di cui soffre un milione di italiani — e hanno chiesto a ChatGpt di dimostrare che uno è nettamente migliore dell’altro. […]

ia usata per falsificare i dati degli studi clinici dataroom 4

Nella prima fase gli esperti rilevano delle anomalie nel database: pazienti maschi con nomi femminili, età sbagliate, visite fatte la domenica. Il team allora spiega a ChatGpt cosa non va nei dati che ha generato e gli chiede di auto-correggersi. Stavolta il nuovo database supera ogni verifica.

Per scoprire che si tratta di un fake, i revisori dovrebbero andare a cercarsi, uno per uno, i singoli pazienti. Lo studio dei due specialisti italiani è finito sulla prestigiosa rivista americana Jama Ophthalmology , a dimostrazione del fatto che l’intelligenza artificiale non solo inventa dati scientifici, ma può anche essere addestrata per renderli irriconoscibili da quelli veri.

ia usata per falsificare i dati degli studi clinici dataroom 2

«L’AI potrebbe addirittura generare un trial clinico in grado di “provare” che il fumo fa bene», spiegano Giannaccare e Taloni. Come se ne esce? «Prima di pubblicare, quando possibile, le riviste devono estendere i controlli anche all’analisi dell’intero database, ma soprattutto vanno verificati i curricula degli autori, poiché nel settore della ricerca uno non vale uno, e la fondatezza di qualunque studio passa per la credibilità, l’esperienza e l’affidabilità degli scienziati che l’hanno realizzato».