Intelligenza Artificiale Tutto su AI e machine learning
Nel 2023, un video del Presidente degli Stati Uniti che annunciava la mobilitazione militare è circolato per ore sui social network prima di essere smascherato come falso. Nel 2024, un dipendente di una banca di Hong Kong ha trasferito 25 milioni di dollari convinto di parlare in videoconferenza con il CFO dell’azienda: era un deepfake. I deepfake — contenuti video, audio o fotografici sintetici generati dall’intelligenza artificiale — sono diventati una delle minacce più concrete e difficili da affrontare dell’era digitale. Capire cosa sono, come funzionano e come difendersi è oggi una necessità, non un optional.
Cos’è un deepfake: la tecnologia alla base
Il termine “deepfake” nasce dalla combinazione di “deep learning” e “fake” (falso). I deepfake sono contenuti multimediali sintetici in cui il volto, la voce o il corpo di una persona vengono sostituiti o manipolati in modo convincente usando reti neurali artificiali. La tecnologia alla base è evoluta rapidamente: dai primi tentativi goffi del 2017, ai video quasi indistinguibili dal reale che circolano oggi.
Le principali tecnologie utilizzate per creare deepfake sono i Generative Adversarial Networks (GAN) e i più recenti diffusion models. Nelle GAN, due reti neurali lavorano in parallelo: un “generatore” che crea immagini sintetiche e un “discriminatore” che cerca di distinguerle dalle reali. Le due reti si allenano a vicenda in un ciclo competitivo fino a quando il generatore produce immagini così convincenti che il discriminatore non riesce più a distinguerle dalle reali. Per i deepfake video, vengono usati autoencoders facciali che imparano a codificare e decodificare i tratti distintivi di un volto specifico, poi li applicano su un altro.
Per i deepfake audio, i modelli di sintesi vocale come voice cloning possono riprodurre la voce di qualsiasi persona con soli 3-5 secondi di audio campione, replicando tono, cadenza, accento e persino le piccole imperfezioni vocali che rendono una voce riconoscibile.
I deepfake nella cronaca: i casi più gravi
L’escalation dei casi di abuso dei deepfake negli ultimi anni è allarmante. Frode finanziaria: il caso di Hong Kong del 2024 non è isolato. Secondo Deloitte, le frodi basate su deepfake hanno causato perdite per oltre 25 miliardi di dollari a livello globale nel 2023. I truffatori creano video deepfake di CEO o dirigenti aziendali per convincere i dipendenti a effettuare bonifici urgenti. Disinformazione politica: durante le elezioni di mezzo termine americane del 2022 e le presidenziali del 2024, centinaia di video deepfake di candidati politici hanno circolato sui social media, spesso con dichiarazioni false o comportamenti compromettenti inventati. Pornografia non consensuale: la grande maggioranza dei deepfake — stimata tra il 90% e il 96% — è pornografia non consensuale, video sessuali falsi che ritraggono persone (prevalentemente donne) senza il loro consenso. Molte vittime sono personaggi pubblici, ma anche persone comuni sono bersagli. Clonazione di identità: i deepfake vengono usati per aggirare sistemi di verifica dell’identità biometrica, presentando un volto sintetico che supera i controlli video durante l’onboarding bancario o l’accesso a servizi digitali.
Come riconoscere un deepfake
Nonostante i progressi tecnologici, i deepfake presentano ancora artefatti visivi e comportamentali che possono tradirli a un occhio attento. Ecco i segnali da cercare.
Anomalie negli occhi: il battito delle palpebre è spesso irregolare nei deepfake, o gli occhi non si muovono in modo naturale. Il riflesso negli occhi può mancare o essere incoerente con la luce nell’ambiente. Bordi del viso: cerca sfocature, aloni o transizioni innaturali tra il viso e i capelli, o tra la testa e il collo. Nei video, questi artefatti tendono a diventare più visibili durante i movimenti bruschi. Sincronizzazione labiale: le labbra possono non sincronizzarsi perfettamente con l’audio, specialmente nelle consonanti labiali come B, M, P. Illuminazione inconsistente: le ombre sul viso potrebbero non corrispondere alla direzione della luce nell’ambiente circostante. Qualità dell’audio: voci clonate spesso hanno una qualità leggermente meccanica, pause innaturali o mancanza delle microespressioni vocali tipiche della voce originale.
Questi segnali però diventano sempre più difficili da rilevare man mano che la tecnologia avanza. Per questo motivo, rilevare i deepfake manualmente non è più sufficiente.
Strumenti per rilevare i deepfake
Sono emersi diversi strumenti tecnologici per il rilevamento automatico dei deepfake. Microsoft Video Authenticator analizza foto e video fornendo un punteggio di probabilità che il contenuto sia stato manipolato. Deepware Scanner è uno strumento gratuito che analizza video caricati dagli utenti. Reality Defender è una piattaforma enterprise usata da media e istituzioni finanziarie. Intel FakeCatcher usa segnali biologici come il flusso sanguigno nei pixel del video per rilevare volti sintetici con un’accuratezza dichiarata del 96%.
Tuttavia, è una corsa agli armamenti: man mano che i rilevatori migliorano, i generatori si adattano per eluderli. I ricercatori di cybersecurity stimano che i migliori deepfake del 2025 ingannano i rilevatori automatici nel 30-40% dei casi.
Il quadro legale e normativo
La risposta legislativa ai deepfake è ancora frammentata ma si sta consolidando. Nell’Unione Europea, l’AI Act — di cui puoi leggere nella nostra guida completa — impone l’etichettatura obbligatoria di tutti i contenuti sintetici generati dall’AI. Il contenuto deepfake deve essere chiaramente indicato come tale, con sanzioni severe per chi non rispetta l’obbligo.
Negli Stati Uniti, diversi stati hanno approvato leggi specifiche contro i deepfake non consensuali: California, Virginia, Texas e New York hanno criminalizzato la creazione e distribuzione di deepfake pornografici non consensuali. A livello federale, il DEFIANCE Act del 2024 ha esteso le tutele nazionali. In Italia, il Garante per la protezione dei dati personali ha emesso linee guida sull’uso dell’AI per la manipolazione di immagini e il Codice Penale prevede già reati applicabili come la sostituzione di persona e la diffamazione.
Come proteggersi dai deepfake
A livello individuale, alcune precauzioni possono ridurre il rischio di essere vittima di deepfake. Limitare la quantità di foto e video del proprio volto disponibili pubblicamente riduce il materiale di addestramento per potenziali truffatori. Usare l’autenticazione a due fattori e non fare affidamento esclusivamente sulla verifica video per autorizzare transazioni finanziarie. Stabilire con familiari e colleghi una parola d’ordine da usare in caso di richieste urgenti e insolite via videochiamate. Quando ricevi contenuti che ti sorprendono o ti chiedono azioni immediate, verifica attraverso un canale alternativo prima di agire.
Per approfondire la protezione della tua privacy digitale nell’era dell’AI, leggi il nostro articolo su AI e privacy: come proteggere i tuoi dati. I deepfake non sono una minaccia futura: sono una realtà presente che richiede consapevolezza, strumenti adeguati e un quadro normativo robusto per essere arginata efficacemente.
Il ruolo dei social media nella diffusione dei deepfake
I social media sono il principale vettore di diffusione dei deepfake. La velocità con cui un video falso può raggiungere milioni di persone prima di essere smascherato è il cuore del problema. Twitter/X, TikTok e YouTube hanno implementato politiche anti-deepfake e strumenti di rilevamento automatico, ma la velocità di diffusione supera costantemente quella del fact-checking. Studi della MIT Media Lab mostrano che le fake news — inclusi i deepfake — si diffondono sei volte più velocemente delle notizie vere sui social media.
Le piattaforme hanno adottato approcci diversi: Meta richiede l’etichettatura obbligatoria dei contenuti generati dall’AI su Facebook e Instagram; TikTok ha implementato un watermark automatico per contenuti AI-generated; YouTube richiede la dichiarazione di contenuti AI nei video che riguardano eventi reali o persone reali. Tuttavia, l’enforcement è ancora inconsistente e molto contenuto problematico sfugge ai filtri automatici.
La soluzione a lungo termine potrebbe venire dalla provenance tecnologica: standard come C2PA (Coalition for Content Provenance and Authenticity), supportato da Adobe, Microsoft e Intel, permettono di incorporare metadati crittografici nelle immagini e video che attestano l’origine e le modifiche apportate al contenuto. Se adottato universalmente, questo standard permetterebbe di verificare immediatamente se un contenuto è autentico o è stato manipolato dall’AI.
