OpenAI introduce un watermark invisibile nei testi generati da ChatGPT per gli utenti dell’Unione europea. Nel Help Center aggiornato la società presenta il sistema, chiamato textGrain, come lo strumento con cui rispetta l’obbligo di marcatura dei contenuti sintetici previsto dall’AI Act.
Come funziona textGrain nei testi di ChatGPT
Il sistema interviene sul modo in cui il modello sceglie tra le parole possibili mentre scrive. A ogni passaggio il modello assegna una probabilità a ciascun frammento di testo successivo (i cosiddetti token) e textGrain prepara diverse versioni di quelle probabilità, ciascuna favorevole a scelte differenti in base a una chiave segreta. Le versioni sono bilanciate in modo che la media coincida con la distribuzione originale, quindi la qualità delle risposte resta invariata. Su un intero passaggio queste scelte lasciano uno schema statistico che un rilevatore in possesso della stessa chiave riesce a individuare anche dopo alcune modifiche.
OpenAI sostiene che nei suoi test textGrain identifica una quota di campioni simile o superiore a quella di SynthID per il testo e prevede di rilasciare la tecnologia in open source.
Dove arriva il watermark di ChatGPT e come si attiva con le API
Per ChatGPT il watermark riguarda al momento gli utenti dell’Unione europea, che troveranno il segnale nelle risposte testuali senza alcun avviso visibile. Fuori dall’UE il testo prodotto dall’assistente non viene marchiato con questo sistema. OpenAI collega la scelta all’AI Act e agli impegni assunti con il codice di condotta europeo sulla trasparenza dei contenuti generati dall’intelligenza artificiale, che la società ha firmato insieme ad altri grandi fornitori.
I clienti delle API possono invece attivare il watermark in qualsiasi paese, dalle impostazioni del singolo progetto oppure da quelle dell’intera organizzazione. In entrambi i casi si sceglie su quali modelli applicarlo e, una volta abilitata l’opzione, la marcatura avviene durante la generazione senza interventi aggiuntivi sulle singole risposte. Secondo quanto riportato dalle testate che hanno ripreso l’annuncio, l’opzione è disponibile dal 5 ottobre per alcuni modelli selezionati e resta disattivata per impostazione predefinita. Abilitare la marcatura non dà accesso al rilevatore. L’obbligo europeo, previsto dall’articolo 50 dell’AI Act, è applicabile dal 2 agosto 2026 e richiede ai fornitori di sistemi generativi di inserire nei contenuti un segnale leggibile da una macchina.
Nelle prossime settimane OpenAI estenderà la copertura a tutti i modelli precedenti e sta lavorando con i propri partner cloud perché i segnali compaiano anche nei contenuti distribuiti attraverso le loro piattaforme, con una disponibilità che può variare da partner a partner.
Quando il watermark nei testi di ChatGPT non si rileva
I testi molto brevi non contengono materiale sufficiente per un riconoscimento affidabile e il codice di condotta europeo esclude dall’obbligo i contenuti sotto i 200 token, circa 150 parole in inglese, oltre agli snippet di codice. Anche le risposte molto fattuali, come il risultato di un calcolo, lasciano al modello poco margine di scelta tra formulazioni diverse. Parafrasi sostanziali o traduzioni possono rendere il segnale non rilevabile e, stando ai dati riportati dalla stampa specializzata, la valutazione interna di OpenAI indica che sostituire con sinonimi il 25% delle parole porta il rilevamento al 17%. Con un tasso di falsi positivi dell’1%, la percentuale di rilevamento varia da lingua a lingua, dal 69,0% dello spagnolo al 42,2% del rumeno.
L’assenza del segnale non prova che un testo sia opera di una persona, mentre la sua presenza non stabilisce chi sia l’autore né quanto abbia contribuito il modello. Il rilevatore è riservato a organizzazioni approvate caso per caso, con ricercatori di Cornell University e dell’ETH di Zurigo tra i partner.
