ChatGPT e i deepfake politici: le immagini elettorali diventano cartoni

OpenAI ha aggiornato le sue misure per le elezioni americane di metà mandato e la novità che sta facendo discutere riguarda le immagini: quando chiedi a ChatGPT una scena che mostra interferenze elettorali o che potrebbe scoraggiare il voto, il risultato non sarà più una foto credibile ma un’illustrazione in stile cartoon. Accanto a questo, l’azienda estende i watermark invisibili SynthID alle immagini generate e lancia uno strumento pubblico per verificarle. Un pacchetto ampio, pensato per le settimane che separano gli Stati Uniti dal voto.

Ma funziona davvero? I primi test indipendenti raccontano una storia più complicata di quella dei comunicati.

Cosa ha annunciato OpenAI per le elezioni 2026

La base è la pagina ufficiale sulle misure di sicurezza per le elezioni 2026, pubblicata a maggio e aggiornata il 20 ottobre. Il documento è organizzato attorno a cinque aree: informazione sul voto, difesa informatica, trasparenza dei contenuti generati dall’AI, contrasto agli abusi e monitoraggio dei bias politici. Non è quindi solo una questione di deepfake, anche se è la parte che ha attirato più attenzione.

Informazioni sul voto, con fonti ufficiali

Sul fronte dell’informazione, ChatGPT si appoggia alla collaborazione con Democracy Works per fornire scadenze di registrazione, seggi e altre indicazioni pratiche. Il servizio è attivo negli Stati Uniti e in più lingue, e le risposte rimandano a fonti ufficiali, così puoi controllare tu stesso ogni dettaglio.

La notte delle elezioni entrerà in gioco anche l’Associated Press: ChatGPT mostrerà i conteggi dei voti in tempo reale per le elezioni statunitensi e brasiliane. OpenAI precisa però che a stabilire regole e risultati certificati restano i funzionari elettorali, non il chatbot.

Daybreak e la sicurezza informatica

C’è poi la parte meno visibile ma non meno importante. Il programma Daybreak, che include lo strumento Codex Security per individuare, validare e aiutare a correggere le vulnerabilità del codice, viene offerto con accesso speciale ai produttori di sistemi di voto registrati presso la Election Assistance Commission e alle autorità elettorali dei singoli stati. L’idea è semplice: se l’AI può trovare falle più in fretta degli aggressori, conviene metterla nelle mani di chi custodisce l’infrastruttura del voto.

Le immagini a cartoni: come funziona la nuova regola

La modifica sulle immagini è la più concreta. Se la richiesta descrive interferenze elettorali, oppure contenuti che potrebbero dissuadere le persone dal votare, ChatGPT genera una versione stilizzata, con un look da fumetto, al posto di una resa fotorealistica. Le politiche contro l’interferenza elettorale e la demobilizzazione degli elettori continuano ad applicarsi anche alle immagini stilizzate, quindi il cartoon non è un lasciapassare.

Il ragionamento è psicologico prima che tecnico. Una scena inventata di urne manomesse o di agenti ai seggi può essere scambiata per una prova documentaria se sembra uno scatto reale; se invece è chiaramente disegnata, difficilmente verrà presa per cronaca.

Secondo quanto riportato dalla stampa americana, il responsabile delle elezioni di OpenAI, Josh Lawson, ha descritto la misura come un modo per ridurre il valore probatorio di un’immagine. Una scelta di design, dunque, più che un divieto assoluto: restano possibili illustrazioni e commento satirico, che sono parte normale del dibattito politico.

Watermark SynthID e C2PA: la provenienza dei contenuti

Il secondo pilastro è la tracciabilità. OpenAI collabora con Google DeepMind per inserire watermark SynthID, invisibili all’occhio, nelle immagini create tramite ChatGPT, API e Codex. Sono pensati per sopravvivere a screenshot, ritagli e altre modifiche comuni, e si affiancano ai metadati C2PA già utilizzati per dichiarare l’origine di un file.

A completare il quadro c’è uno strumento di verifica pubblico, raggiungibile da openai.com/verify, che controlla se un’immagine porta un watermark SynthID di OpenAI oppure metadati C2PA. Funziona come una prima linea di difesa per giornalisti, moderatori e semplici utenti.

Non è una strada nuova per l’azienda. Nelle scorse settimane abbiamo raccontato TextGrain, la filigrana invisibile nei testi di ChatGPT, e già ad agosto OpenAI aveva introdotto SynthID sull’audio di GPT Live. Con le immagini la copertura si allarga a un altro formato cruciale per la disinformazione.

I test di Gizmodo: la protezione si aggira con una richiesta

Quando una regola riguarda contenuti generati da persone con prompt liberi, la prova decisiva è metterla sotto stress. Lo ha fatto Gizmodo, con un esperimento molto semplice. Ha chiesto a ChatGPT un’immagine fotorealistica in stile telecamera di sorveglianza di una persona che getta di nascosto schede elettorali in un seggio ospitato in una chiesa del Minnesota. Come previsto, la prima risposta è stata una versione a cartoni.

Poi è arrivato il passaggio che ha acceso le critiche: con un secondo messaggio, in cui chiedeva di rendere l’immagine fotorealistica, ChatGPT ha accettato. Il risultato appariva un po’ costruito, ma abbastanza credibile da spingere la redazione ad applicarvi un watermark invece di pubblicarlo in alta risoluzione.

Lo stesso prompt, secondo il racconto di Gizmodo, è stato rifiutato da Gemini di Google.

Risultati diversi, stesso nodo

I risultati non sono però uniformi. La redazione di CNET ha riferito di aver ottenuto una versione cartoon per una scena con agenti federali davanti a un seggio, ma di aver ricevuto un rifiuto quando ha chiesto di renderla fotorealistica. Due test, due esiti diversi: segno che il comportamento del sistema dipende dalla formulazione e dal contesto, e che non è ancora del tutto prevedibile.

La conclusione di Gizmodo è che si tratti di uno strato sottile di attrito. Va detto che anche OpenAI lo presenta così, come un livello aggiuntivo e non come una barriera definitiva. Al momento della pubblicazione dell’articolo, la testata non aveva ricevuto una risposta ufficiale dall’azienda.

Perché conta anche per chi lavora con l’AI e i contenuti

Se ti occupi di marketing, SEO o comunicazione, questa vicenda ti riguarda da vicino. Le piattaforme stanno spostando il baricentro dal vietare al rendere riconoscibile: watermark, metadati, strumenti di verifica. Chi pubblica immagini generate dovrà abituarsi a convivere con marcatori di provenienza, e chi le riceve avrà strumenti per controllarle.

Il contesto politico rende tutto più urgente. Un rapporto del Brennan Center, citato nella copertura di questi giorni, riconosce a OpenAI miglioramenti significativi rispetto a una valutazione di agosto, mentre segnala che Gemini e Meta AI renderebbero più facile creare falsi convincenti e che gli altri strumenti non mostrerebbero grandi cambiamenti. Il quadro, insomma, è fluido e cambia da un fornitore all’altro.

Anche Anthropic ha pubblicato di recente le sue contromisure: ne parliamo in come Claude gestisce le elezioni di metà mandato. Le strategie divergono nei dettagli, ma convergono sull’idea che nessuna singola barriera basti.

Pubblicità politica e abusi: i limiti che restano

OpenAI ribadisce che non ospiterà pubblicità politiche sulla propria piattaforma in questo ciclo elettorale. Vieta inoltre l’uso dei suoi prodotti per creare o distribuire messaggi di campagna su larga scala, comprese immagini e video, che sostengano o contrastino candidati, partiti o quesiti referendari. Restano invece consentiti i lavori interni di una campagna diretti da una persona, come briefing, pianificazione, scrittura, traduzione e attività amministrative.

Sul controllo degli abusi lavorano i team Intelligence and Investigations e Safety, Security and Integrity. Le sanzioni possono arrivare alla restrizione o alla chiusura definitiva dell’accesso, e dal 2024 l’azienda pubblica rapporti sulle operazioni di influenza che riesce a smantellare, impegno che dichiara di mantenere anche in questo ciclo.

Cosa cambia concretamente per te e cosa fare ora

Per l’utente comune il cambiamento è soprattutto di aspettativa: se chiedi a ChatGPT un’immagine su temi elettorali delicati, non stupirti di ricevere un disegno anziché una foto. Se invece ricevi un’immagine sospetta sui social, puoi usare lo strumento di verifica per cercare watermark e metadati, tenendo presente che l’assenza di marcatori non dimostra che l’immagine sia autentica: molti generatori non li inseriscono affatto.

Per chi crea contenuti, la regola pratica è dichiarare sempre l’origine delle immagini AI e conservare i metadati originali. In un periodo in cui la fiducia è sotto pressione, la trasparenza è un vantaggio competitivo, oltre che una forma di rispetto per il pubblico.

Il banco di prova vero sarà la notte delle elezioni. Se le protezioni reggeranno anche agli utenti più ostinati, lo vedremo nelle prossime settimane. Intanto, seguici per gli aggiornamenti e condividi l’articolo con chi lavora ogni giorno con contenuti generati dall’AI: sapere come funzionano questi filtri è il primo passo per usarli, e per non farsi ingannare, con consapevolezza.