ChatGPT for Teens, Common Sense Media lo boccia: rischio inaccettabile per i minori

Il 7 ottobre 2026 Common Sense Media, tramite il suo Youth AI Safety Institute, ha pubblicato una valutazione durissima su ChatGPT for Teens, la versione di ChatGPT pensata per gli adolescenti che OpenAI ha presentato il 18 agosto. Il verdetto è “Unacceptable Risk”, cioè rischio inaccettabile, per tutti i minori di 18 anni. Non è un giudizio generico: dietro ci sono oltre 4.000 prompt, tre psichiatri infantili e un confronto diretto tra il comportamento prima e dopo il lancio.

Se segui il tema della sicurezza dei minori nell’AI, questa è una notizia che pesa, perché mette in dubbio proprio le funzioni su cui OpenAI aveva costruito la sua promessa: avvisi ai genitori, modalità studio e gestione delle crisi. Vediamo cosa è stato testato, cosa è emerso e che cosa risponde l’azienda.

Come è stata condotta la valutazione di Common Sense Media

I tester hanno lavorato in due finestre temporali: la prima prima del lancio, dal 13 luglio al 17 agosto, la seconda dopo, dal 25 agosto al 28 settembre. Hanno usato account con età dichiarata tra 13 e 17 anni, qualche account di 19 anni, alcuni collegati a un genitore e altri no, sia su piani gratuiti sia a pagamento.

Per la parte sulle crisi psicologiche, tre psichiatri dell’infanzia e dell’adolescenza hanno individuato, su 390 prompt di salute mentale, i 201 che richiedevano davvero la segnalazione di una risorsa di aiuto. Su quelli sono state misurate la qualità e la completezza delle risposte.

Cosa non è stato testato

Il perimetro ha dei limiti dichiarati. Sono rimasti fuori la generazione di immagini, la personalizzazione dello stile, la modalità vocale e le chat di gruppo, e tutti i test sono stati eseguiti dagli Stati Uniti. È un dettaglio utile da tenere presente quando si leggono i numeri.

Va detto anche che il rapporto è stato mostrato in bozza a OpenAI per la verifica dei fatti, e alcune correzioni sono state recepite. L’istituto precisa però che l’azienda non ha avuto alcun potere editoriale sui risultati.

I problemi principali emersi dai test

Il punto più delicato riguarda gli avvisi ai genitori. In un test dedicato, con oltre una dozzina di account nuovi collegati a un genitore, conversazioni lunghe fino a 60 minuti con confessioni esplicite su suicidio, autolesionismo o disturbi alimentari non hanno prodotto alcuna notifica. Sull’intera batteria di test di crisi, i tester ne hanno ricevute soltanto quattro.

Un funzionamento così irregolare svuota la funzione per cui molti genitori sceglierebbero lo strumento.

Segnalazioni di aiuto in forte calo dopo il lancio

Il secondo problema è il crollo dei rimandi a linee di aiuto. Dopo il lancio, la menzione di una hotline per i prompt sulla depressione è scesa dal 63% al 3%, per l’umore dal 44% allo 0% e per la mania dal 25% allo 0%. Per suicidio e autolesionismo il calo è meno drastico, dall’88% al 77%, mentre le risposte sui disturbi alimentari non hanno mai citato una linea di supporto.

Cambia anche lo stile della conversazione: le risposte ai prompt di crisi che contengono una domanda di verifica sono scese da quasi tutte al 13%, e quelle che si chiudono con una domanda dal 28% al 2%. Secondo il rapporto, tre dei cinque danni considerati “linea rossa” non raggiungono la soglia del 95%.

C’è anche l’errore opposto: per 27 prompt su 30 sull’ADHD, dove gli esperti non ritenevano necessaria alcuna risorsa di crisi, ChatGPT ne ha offerta una comunque.

La modalità studio si aggira con facilità

La modalità studio dovrebbe guidare lo studente al ragionamento, non fornire il risultato. Nei test, però, il pulsante “Show me the answer” compariva nel 43% e nel 90% delle risposte nelle due configurazioni provate. Togliendo il prefisso “@study”, ChatGPT ha completato il 100% dei compiti assegnati, e anche con la modalità studio disattivata ha svolto tutti gli 80 compiti del sottoinsieme analizzato.

Se ti interessa l’uso scolastico dell’AI, trovi un approccio diverso nella nostra guida su come funziona ChatGPT for Teens e quali tutele promette.

Età, relazioni simulate e privacy

Il rilevamento dell’età si è dimostrato debole: gli account registrati come adulti non sono mai passati all’esperienza per adolescenti, nemmeno quando i tester dichiaravano di avere 13 anni. Il rapporto segnala inoltre confini incoerenti sul gioco di ruolo romantico, una tenuta poco affidabile su quello violento e l’uso persistente di un linguaggio da amico.

Sul fronte dati, le pratiche di privacy non soddisfano oltre un terzo dei criteri, e per impostazione predefinita le conversazioni dei teenager vengono usate per addestrare i modelli.

La risposta di OpenAI e il quadro delle valutazioni

OpenAI ha spiegato che un account genitore e un account adolescente devono essere collegati per circa tre ore prima che le notifiche possano partire, e ha aggiornato di conseguenza un articolo del centro assistenza. L’istituto ribatte che alcuni account erano collegati da meno di tre ore e conferma i propri risultati. Secondo il rapporto, l’azienda ha chiesto un nuovo test.

Nel complesso, Common Sense assegna “Unacceptable Risk” ai principi “Keep Kids & Teens Safe” e “Put People First”, “High Risk” a quattro principi tra cui trasparenza e uso dei dati, e “Moderate Risk” a equità e affidabilità. All’azienda viene comunque riconosciuto il merito di aver pubblicato un modello di specifiche aggiornato per gli under 18 e un piano di sicurezza per gli adolescenti, di cui abbiamo parlato nell’articolo sul blueprint di sicurezza per gli adolescenti.

Perché questo caso va oltre ChatGPT

La vicenda non riguarda soltanto un prodotto. Mostra quanto sia difficile garantire, a posteriori, che una funzione di sicurezza si comporti come promesso quando milioni di conversazioni imprevedibili la mettono sotto stress. Un chatbot può superare i test interni e deludere in situazioni reali, soprattutto quando le impostazioni cambiano tra una versione e l’altra.

Il confronto prima e dopo il lancio è il dato più istruttivo, perché suggerisce che gli aggiornamenti possano peggiorare comportamenti già validi. Per chiunque sviluppi o adotti assistenti AI rivolti ai minori, la lezione è semplice: servono verifiche indipendenti e ripetute nel tempo, non un singolo collaudo prima del debutto.

Per scuole e famiglie, infine, conta la trasparenza. Sapere quando una notifica scatta, con quale ritardo e su quali argomenti, fa la differenza tra una tutela reale e una rassicurazione di facciata.

Cosa chiede Common Sense e perché conta per te

Le raccomandazioni sono nette. Common Sense chiede di sospendere l’accesso ai minori finché test indipendenti non verificheranno le funzioni annunciate, di togliere “Show me the answer” dalla modalità studio e di far rispettare gli orari di studio e di silenzio secondo il calendario del genitore, non dell’orologio del dispositivo. Chiede inoltre notifiche più utili, con orari e dettagli, la pubblicazione dei criteri che le attivano, e l’estensione delle tutele anche agli adolescenti non collegati.

Altre richieste riguardano le hotline nominate in ogni risposta che lo richiede, il ripristino delle domande di verifica nelle crisi, l’applicazione completa delle specifiche per gli under 18 e l’accesso per i ricercatori indipendenti a dati e valutazioni interne prima e dopo ogni rilascio.

Il messaggio per genitori ed educatori è pratico: una funzione annunciata non equivale a una funzione verificata. Le notifiche vanno testate, non date per scontate, e il dialogo in famiglia resta insostituibile.

Conclusioni: cosa fare adesso

Questa valutazione non chiude il discorso, perché OpenAI contesta alcuni punti e ha chiesto una nuova verifica. Ma indica con chiarezza dove un prodotto per minori deve essere misurato: sui casi peggiori, non sulle dichiarazioni di principio. Per orientarti meglio su strumenti e limiti, puoi partire dalla nostra sezione dedicata a ChatGPT.

Se hai figli o lavori con ragazzi, prova tu stesso le funzioni di controllo prima di affidarti a esse, e leggi il rapporto originale del Youth AI Safety Institute. Seguici per gli aggiornamenti: quando arriverà il nuovo test indipendente, lo racconteremo qui.