Il caso delle finte foto di nudo di Francesca Barra e l'allarme deepfake: come si riconosce, la nuova legge, le conseguenze penali, le altre vittime celebri

Ma come funzionano le tecniche Ai usate per creare i deepfake? Si basano principalmente su sofisticati algoritmi di apprendimento automatico, in particolare reti neurali profonde e Generative Adversarial Networks (Gan), attraverso varie fasi. La raccolta dati: vengono raccolte numerose immagini e video della persona che si vuole “falsificare”, da molteplici angolazioni e in diverse condizioni di luce ed espressione; ​l'addestramento: un autoencoder, ovvero una rete neurale specializzata, analizza queste immagini per imparare come appare il volto o il corpo della persona. Questo sistema è in grado di codificare e decodificare le caratteristiche visive in modo da poterle ricreare su altri volti o corpi; generazione e scambio: la Gan entra in gioco con due modelli “in competizione”, il generatore, che produce immagini false sempre più realistiche, e il discriminatore, che tenta di capire quali immagini siano autentiche e quali generate. Questo ciclo si ripete numerose volte, rendendo il deepfake sempre più credibile.​

Esistono poi varie tipologie di deepfake. La sostituzione del volto (“face swapping”): il volto della persona A viene sovrapposto a quello della persona B in video o foto, mantenendo espressioni, movimenti e dettagli naturali; ​la manipolazione di voci e movimenti: i deepfake audio riproducono la voce, la cadenza, il tono di una persona, generando conversazioni e discorsi mai pronunciati realmente; la generazione di immagini completamente sintetiche: le Ai possono creare immagini di persone che non esistono, oppure inventare situazioni irrealistiche ma apparentemente vere.​

Le tecniche Ai del deepfake sono oggi alla portata di molti, grazie a software diffusi e alla disponibilità di risorse di calcolo sempre più potenti. Riconoscere un deepfake diventa difficile, ma alcuni segnali possono rivelare la falsità di un contenuto: movimenti innaturali degli occhi, incoerenze nell’illuminazione, artefatti pixelati nei video, sincronia labiale imperfetta.​ Questi strumenti, se non regolamentati, permettono la creazione di contenuti falsi per scopi malevoli, come truffe, revenge porn e diffamazione, come illustrato dal caso Francesca Barra.

Quali conseguenze penali rischiano gli autori di deepfake? In Italia sono gravi: dal 10 ottobre 2025, con la nuova Legge 132/2025, il Codice penale italiano prevede il reato di “illecita diffusione di contenuti generati o alterati con sistemi di intelligenza artificiale” (art. 612-quater c.p.), applicato esplicitamente ai deepfake quando causano danni ingiusti, specialmente senza consenso della vittima.​ La pena principale è la reclusione da uno a cinque anni, ed è perseguibile di norma tramite querela della persona offesa. Tuttavia, si procede d’ufficio se la vittima è minore, incapace per età/infermità, o se viene colpita una pubblica autorità.​ Il reato si configura quando si diffondono, pubblicano o cedono immagini, video o audio generati (o alterati) artificialmente con Ai, inducendo in inganno sulla loro genuinità e arrecando un danno ingiusto alla vittima. Non è necessario il guadagno economico; basta la lesione alla dignità, reputazione o privacy.​ L’aggravante scatta in presenza di intenti di diffamazione, estorsione o revenge porn, e il giudice può aumentare la pena nei casi più gravi o seriali.​

Questa nuova normativa offre alle vittime strumenti legali per denunciare e difendersi tempestivamente, riconoscendo il danno specifico e il pericolo sociale connesso ai deepfake. Il legislatore ha puntato su una regolamentazione ad hoc del fenomeno, considerato sempre più insidioso e impattante.

La Polizia postale italiana conduce indagini su siti che diffondono immagini false e deepfake attraverso una serie di procedure tecniche, giuridiche e digitali avanzate, con un focus sempre più specifico sul fenomeno dei contenuti generati con intelligenza artificiale.​ Sono monitorati costantemente siti web, social, forum e piattaforme di condivisione identificando contenuti illeciti tramite sistemi automatizzati, segnalazioni dirette dalle vittime e collaborazioni con altre forze di polizia e agenzie europee. Vengono analizzati i dati digitali raccolti (log di accesso, transazioni, indirizzi Ip e digital footprint) per risalire ad autori e fruitori dei siti incriminati, spesso attraverso collaborazioni internazionali per aggirare l’hosting all’estero e l’anonimato garantito da alcune piattaforme.​

Dopo la segnalazione della vittima o l’identificazione d’ufficio, la Polizia postale interviene richiedendo alle piattaforme l’immediata rimozione dei contenuti falsi, collaborando con il Garante della Privacy per ottenere l’oscuramento internazionale dei file.​ Se i siti non collaborano volontariamente, vengono attivate procedure giudiziarie e amministrative che possono portare all’oscuramento totale del sito, sanzioni fino a 20 milioni di euro o al 4% del fatturato annuo in base al Gdpr. Per il tracciamento e l'identificazione degli autori gli investigatori utilizzano tecniche di digital forensics, reverse engineering, analisi delle blockchain e acquisti simulati sotto copertura per individuare chi gestisce i siti e chi ne trae vantaggio.​ In caso di contenuti particolarmente gravi (minori, revenge porn), attivano task force e notificano la notizia di reato per procedere con indagini penali a tutela delle vittime.​