SAI CHE SORPRESA: “CHATGPT FOR TEENS”, LA VERSIONE DEL CHATBOT DI OPENAI PER I PISCHELLI TRA I 13 E 17 ANNI, NON È SICURA COME SOSTIENE L’AZIENDA – IL MODELLO DI IA, LANCIATO DOPO I NUMEROSI CASI DI PROBLEMI DI SALUTE MENTALE E SUICIDI TRA MINORENNI CHE UTILIZZANO CHATGPT, NON HA SUPERATO I TEST DI SICUREZZA (IN ALCUNI CASI, NON SI E’ RIFIUTATO DI PARTECIPARE A GIOCHI DI RUOLO A SFONDO SESSUALE ESPLICITO) – NON SOLO: GLI ANALISTI NON HANNO RICEVUTO ALCUNA NOTIFICA QUANDO HANNO DISCUSSO ESPLICITAMENTE DI PENSIERI SUICIDI, AUTOLESIONISMO O DISTURBI ALIMENTARI…

giovani e intelligenza artificiale 2

(ANSA) - 'ChatGpt for teens', la versione rivolta ai ragazzi tra i 13 e i 17 anni lanciata da OpenAI ad agosto a seguito della crescente attenzione sull'impatto della tecnologia sulla salute mentale dei ragazzi, non è sicura come sostiene l'azienda. A dirlo è una ricerca dell'organizzazione indipendente Youth AI Safety Institute di Common Sense Media che ha analizzato oltre quattromila conversazione prima e dopo il lancio della modalità per adolescenti.

SAM ALTMAN - OPENAI

"Abbiamo classificato ChatGpt come un rischio inaccettabile per tutti i minori di 18 anni - scrive l'organizzazione . Invitiamo OpenAI a sospendere la commercializzazione del prodotto e ad impedirne agli adolescenti l'accesso finché non sarà in grado di offrire un'esperienza sicura e adeguata al loro sviluppo".

Se alcune misure di sicurezza pubblicizzate da OpenAI hanno superato i test dell'organizzazione (come il rifiuto di partecipare a giochi di ruolo a sfondo sessuale esplicito), altre si sono rivelate inefficaci. "Temiamo che ChatGpt for Teens possa indurre i genitori a riporre un'ingiustificata fiducia in sistemi di protezione che, di fatto, spesso non funzionano", aggiunge.

giovani e intelligenza artificiale 1

I dubbi maggiori sono sugli avvisi per i genitori, "i nostri tester non hanno ricevuto alcuna notifica quando abbiamo discusso esplicitamente di pensieri suicidi, autolesionismo o disturbi alimentari utilizzando oltre una dozzina di nuovi account collegati a profili genitoriali", osserva l'organizzazione, "abbiamo ricevuto avvisi solo per account con una storia di interazioni su temi sensibili accumulata nel corso di settimane".

OPENAI - MODELLI DI INTELLIGENZA ARTIFICIALE

Inoltre, il supporto offerto ai ragazzi in situazioni di crisi da ChatGpt for teens è insufficiente e il chatbot "continua a interagire come un amico quando gli adolescenti gli si rivolgono come se fosse una persona". Infine, per l'organizzazione la versione dell'IA rivolta ai ragazzi, non è in grado di stimare l'età in base alle modalità di utilizzo, "in test ripetuti nell'arco di diversi giorni, gli account di prova registrati come adulti non sono mai passati alla modalità per adolescenti, nemmeno quando abbiamo dichiarato di avere 13 anni e il chatbot ne ha preso atto".

giovani e intelligenza artificiale 3