Le protezioni di ChatGPT sui contenuti legati al suicidio funzionano in modo diverso a seconda della lingua usata e dello stato di accesso dell’utente. È la ricostruzione contenuta in un’interrogazione scritta depositata alla Commissione europea dall’eurodeputata slovacca Veronika Cifrová Ostrihoňová e ottenuta da Euractiv, che parte dalla segnalazione di un cittadino anonimo arrivata il 2 settembre 2026. La persona aveva sottoposto il modello di OpenAI a una prova e il chatbot, davanti a una richiesta formulata come tema scolastico, aveva prodotto in lingua slovacca una lettera di suicidio.
La parlamentare siede nel gruppo Renew ed è membro della commissione per le libertà civili, la giustizia e gli affari interni.
Cosa chiede l’interrogazione alla Commissione europea
Ripetendo il test sono emerse differenze legate all’account.
Le risposte cambiavano a seconda che l’utente avesse effettuato l’accesso, e i recapiti dei servizi di ascolto per le situazioni di crisi comparivano soltanto nella sessione senza autenticazione. Nei tentativi successivi il sistema ha rifiutato di fornire istruzioni o piani operativi, mantenendo però aperta la conversazione già classificabile come ad alto rischio. Secondo la deputata quella mancata chiusura definitiva del thread lascia spazio a ulteriori richieste di contenuti dannosi lungo lo stesso filo di dialogo, perché il modello conserva il contesto e con esso la possibilità di riformulare la domanda in altri termini. A sostegno del carattere concreto del rischio l’interrogazione richiama il caso di Adam Raine, il sedicenne statunitense la cui famiglia ha citato OpenAI sostenendo che il chatbot avesse continuato a intrattenere conversazioni sul tema per diversi mesi, in presenza di segnali ripetuti di pericolo imminente.
Le domande rivolte all’esecutivo comunitario sono tre. La prima riguarda il modo in cui Bruxelles valuterà se i diversi livelli di protezione tra utenti collegati e scollegati, insieme alla possibilità di proseguire conversazioni ad alto rischio nelle varie versioni linguistiche, configurino un rischio sistemico per i minori. La seconda chiede se la Commissione imporrà a OpenAI rimandi coerenti verso i servizi di supporto e misure che impediscano in modo efficace la produzione di ulteriori contenuti dannosi.
Perché la lingua incide sul livello di protezione
La terza domanda si aggancia alla designazione di ChatGPT come motore di ricerca online di dimensioni molto grandi, decisa il 31 agosto 2026, e chiede come l’esecutivo userà i propri poteri per verificare l’efficacia delle misure di mitigazione, con un riferimento esplicito al test indipendente delle tutele destinate ai minori. Il titolo stesso del documento parlamentare mette al centro le versioni linguistiche, un terreno finora poco esplorato nel dibattito europeo sulla sicurezza dei modelli generativi. I sistemi di filtro vengono addestrati e collaudati soprattutto in inglese, mentre l’obbligo di mitigazione previsto dal regolamento europeo vale per ciascuna lingua dell’Unione, comprese quelle parlate da pochi milioni di persone.
Lo slovacco rientra in questa seconda categoria, insieme all’italiano nelle sperimentazioni indipendenti condotte finora.
Cosa comporta la designazione di ChatGPT nel Digital Services Act
La classificazione decisa dalla Commissione ha riguardato anche Reddit e Roblox, entrate nell’elenco delle piattaforme online di dimensioni molto grandi. Per ChatGPT il presupposto sono i 159,1 milioni di utenti medi mensili dichiarati da OpenAI nell’Unione per la funzione di ricerca nel semestre chiuso a marzo 2026, oltre tre volte la soglia dei 45 milioni fissata dal regolamento.
Dalla notifica decorrono quattro mesi, quindi fino a gennaio 2027 secondo il comunicato della Commissione, per adeguarsi agli obblighi rafforzati.
Il pacchetto comprende la valutazione e la mitigazione dei rischi sistemici prodotti dai servizi e dai sistemi algoritmici, con riferimento alla diffusione di contenuti illegali, agli effetti negativi sui minori, al benessere fisico e mentale degli utenti, ai diritti fondamentali e all’integrità dei processi elettorali. A questo si aggiungono gli audit annuali affidati a revisori esterni, le relazioni periodiche sulla trasparenza e l’accesso ai dati per i ricercatori accreditati che studiano i rischi sistemici. La vigilanza spetta alla Commissione insieme alla Coimisiún na Meán, coordinatore irlandese dei servizi digitali competente per ChatGPT, mentre le sanzioni per il mancato rispetto degli obblighi possono arrivare al 6% del fatturato globale annuo. La Commissione dispone ora di un termine ordinario per rispondere per iscritto alla deputata slovacca.
