OpenAI textGrain: la filigrana invisibile nei testi di ChatGPT per l’Europa

OpenAI ha annunciato che i testi generati da ChatGPT e da Codex porteranno una filigrana invisibile, almeno per gli utenti dell’Unione europea. La tecnica si chiama textGrain e nasce per rispondere alle regole di trasparenza dell’AI Act, entrate in vigore il 2 agosto. Non cambia nulla di ciò che leggi a schermo, ma cambia il modo in cui un testo può essere riconosciuto in futuro.

Il comunicato, pubblicato dall’azienda il 5 ottobre con il titolo Our approach to EU text provenance rules, è interessante soprattutto per i limiti che ammette con una franchezza rara.

Cosa ha annunciato OpenAI con textGrain

Il meccanismo è statistico. Quando un modello genera una frase, in ogni punto sceglie la parola successiva tra molte candidate più o meno equivalenti. textGrain interviene proprio qui: usa una chiave segreta per orientare in modo impercettibile queste scelte, così che nel corso di un intero passaggio si accumuli un segnale che un rilevatore, conoscendo la chiave, può riconoscere.

Il segnale non sta in caratteri nascosti o nei metadati, ma nelle parole stesse. Per questo sopravvive al copia e incolla, cosa che i marcatori esterni non garantiscono.

La distribuzione avviene su due fronti. Gli sviluppatori che usano le API, in tutto il mondo, possono attivare la filigrana da subito come funzione opzionale su alcuni modelli. Gli utenti europei di ChatGPT e di Codex, su tutti i piani, la riceveranno invece in automatico nelle prossime settimane. Il rilevatore, almeno all’inizio, sarà accessibile solo a ricercatori e organizzazioni esperte approvate, non al pubblico.

Perché proprio adesso

La spinta è normativa. L’articolo 50 dell’AI Act chiede ai fornitori di sistemi che generano contenuti sintetici di marcarli in un formato leggibile da altre macchine. Dal 2 agosto l’obbligo è operativo e le aziende devono mostrare come lo rispettano.

Anthropic si è mossa per prima: nelle settimane successive a quella data ha introdotto una marcatura simile per i testi di Claude distribuiti nell’Unione europea, con firme digitali nei metadati per i file multimediali. OpenAI sceglie quindi una strada parallela, e il fatto che due dei principali laboratori convergano sulla stessa idea dice molto su dove sta andando il settore.

Quanto funziona davvero la filigrana

I numeri forniti dall’azienda sono utili per mettere le cose in prospettiva. Con un tasso di falsi positivi fissato all’1%, il rilevamento arriva a circa il 95% su passaggi di 400 token e scende a circa l’80% su passaggi di 200 token. In altre parole, più il testo è lungo, più il segnale è affidabile.

Il vero punto debole è la modifica. Se sostituisci il 10% delle parole, il tasso di rilevamento cala dal 92% al 66%. Se ne sostituisci il 25%, crolla al 17%.

Questo significa che una filigrana di testo non è un lucchetto, ma un’impronta fragile: basta riscrivere con un minimo di cura, oppure passare il testo da un altro strumento, per renderla quasi inutilizzabile. Anche le traduzioni e i brani molto brevi sono difficili da riconoscere.

Matematica e codice, il caso più difficile

OpenAI segnala che i contenuti in cui c’è poca libertà nella scelta delle parole, come le risposte matematiche, producono rilevamenti sostanzialmente più bassi. È una conseguenza logica del metodo: se esiste un solo modo corretto di scrivere un’espressione, il modello non ha margine per inserire il segnale senza sbagliare. Lo stesso ragionamento vale, in parte, per molti passaggi di programmazione.

Cosa non può dirti una filigrana

La parte più onesta del comunicato è l’elenco di ciò che textGrain non fa. Non stabilisce la proprietà di un testo, non identifica chi lo ha richiesto, non verifica che sia corretto e non misura quanto lavoro umano ci sia dietro. Un’assenza di filigrana, soprattutto, non prova che il testo sia stato scritto da una persona: potrebbe essere troppo breve, troppo modificato o tradotto.

Nelle parole dell’azienda, il segnale indica che un sistema di OpenAI ha generato o elaborato una parte del passaggio, non quanto giudizio o creatività umana ci siano stati.

Questo è il punto che conta per chi lavora con i contenuti. Una filigrana non è un detector di plagio né uno strumento per accusare qualcuno. Se vuoi capire come ragionare sulla provenienza di un testo, ti consiglio la nostra guida su come riconoscere i contenuti generati dall’intelligenza artificiale, che mostra perché nessun metodo singolo basta.

Un confronto con le filigrane per altri formati

Il testo è il terreno più difficile. Nelle immagini, nell’audio e nei dati biologici la marcatura può contare su molta più ridondanza. Un esempio recente è SynthID Bio di DeepMind, che applica una filigrana alle proteine progettate dall’AI. Nel linguaggio naturale, invece, ogni parola ha pochi gradi di libertà e il lettore umano è molto sensibile alle stranezze: il segnale deve restare minuscolo e quindi resta fragile.

Cosa cambia per chi scrive, insegna e fa marketing

Per chi usa ChatGPT nel lavoro quotidiano, nell’immediato cambia pochissimo. I testi che generi continueranno a essere identici a quelli di ieri per qualità e stile, e l’interfaccia non mostrerà nessun avviso. La differenza è invisibile, ed è proprio questo che la rende delicata.

Per chi si occupa di SEO e contenuti, ci sono tre considerazioni pratiche.

La prima: non esiste alcuna indicazione che i motori di ricerca useranno queste filigrane per penalizzare i contenuti, e conviene non costruire strategie su ipotesi. Un testo utile, verificato e con valore editoriale resta la base, indipendentemente da come è stato prodotto.

La seconda: la revisione umana, quella vera, con aggiunta di dati, esempi e punto di vista, è anche il modo più efficace per rendere il testo tuo. Il fatto che una modifica profonda indebolisca la filigrana non è un trucco da sfruttare, ma il riflesso di un principio semplice: più lavoro umano c’è, meno il testo è solo output di un modello.

La terza riguarda la trasparenza verso il lettore. Le regole europee puntano a rendere identificabili i contenuti sintetici, e dichiarare con chiarezza quando e come usi l’AI resta la scelta più solida, sia sul piano reputazionale sia su quello normativo.

Scuola, università e redazioni

Il mondo dell’istruzione sarà il più tentato di usare il rilevatore come prova. I dati dicono che sarebbe un errore: un testo breve, modificato o tradotto può sfuggire, e l’assenza del segnale non dimostra nulla. Lo stesso rischio di falsi positivi, anche se fissato all’1%, su migliaia di elaborati produce comunque errori reali. Per fortuna, almeno all’inizio, il rilevatore non sarà in mano al pubblico.

Il quadro europeo e cosa guardare nelle prossime settimane

L’annuncio di OpenAI è un tassello di un percorso più ampio, in cui la regolamentazione obbliga i laboratori a rendere tracciabile ciò che producono. Altre giurisdizioni stanno discutendo regole sulla responsabilità degli agenti e sugli audit indipendenti, e il tema della provenienza dei contenuti è destinato a tornare in ogni dossier normativo.

Ci sono alcune cose da seguire. Primo, quando e come il rilevatore sarà aperto a una platea più ampia, perché un’infrastruttura di verifica chiusa limita l’utilità pratica della filigrana. Secondo, se gli altri grandi fornitori adotteranno metodi interoperabili, perché una filigrana riconoscibile solo da chi l’ha creata funziona male in un ecosistema con molti modelli. Terzo, come reagiranno strumenti di riscrittura e traduzione, che per natura tendono a cancellare il segnale.

Va detto con chiarezza: l’efficacia reale di textGrain si vedrà solo sul campo. I dati forniti da OpenAI sono promettenti su testi lunghi e non modificati, ma i contesti reali sono quasi sempre il contrario.

Conclusioni

textGrain è un passo di conformità più che una soluzione al problema dell’autenticità dei contenuti. Funziona bene dove il testo è lungo e intatto, funziona male dove il testo è breve, rielaborato o tradotto, e per sua stessa ammissione non dice nulla sul contributo umano.

Il consiglio pratico è semplice: usa l’AI come strumento, rivedi e arricchisci sempre ciò che pubblichi e non trattare mai una filigrana, presente o assente, come una prova. Se vuoi restare aggiornato su regole, strumenti e novità dell’intelligenza artificiale, continua a seguire la sezione notizie di Intelligenza Artificiale.net e dicci nei commenti come stai adattando i tuoi flussi di lavoro.