UE, accordo sul divieto dei deepfake sessuali creati con l’IA

Bruxelles — L’Unione europea compie un nuovo passo nella regolamentazione dell’intelligenza artificiale e punta a vietare i sistemi usati per creare deepfake sessuali non consensuali. La misura riguarda strumenti di IA capaci di generare o manipolare immagini intime o sessualmente esplicite raffiguranti persone reali identificabili, senza il loro consenso.

Il tema è entrato al centro del confronto europeo nell’ambito delle modifiche all’AI Act, la legge dell’Unione europea sull’intelligenza artificiale. Il Parlamento europeo ha adottato la propria posizione negoziale sulla proposta di semplificazione della normativa con 569 voti favorevoli, 45 contrari e 23 astensioni, includendo tra i punti più rilevanti proprio la stretta contro i deepfake sessuali.

Stop ai sistemi che creano immagini intime senza consenso

Secondo il testo sostenuto dagli eurodeputati, il divieto dovrebbe riguardare i sistemi di intelligenza artificiale utilizzati per creare o manipolare immagini sessualmente esplicite o intime che somigliano a una persona reale identificabile, quando manca il consenso della persona ritratta.

Nel mirino ci sono in particolare le cosiddette applicazioni “nudifier” o “deepnude”, strumenti che permettono di trasformare immagini comuni in contenuti sessualizzati falsi. La questione è diventata sempre più urgente dopo la diffusione online di immagini manipolate con IA ai danni di donne, minori e figure pubbliche, un fenomeno che ha spinto le istituzioni europee a rafforzare il quadro normativo.

Una risposta europea agli abusi dell’IA

La decisione si inserisce in un clima di crescente attenzione verso l’uso dannoso dell’intelligenza artificiale. Negli ultimi mesi, il tema dei deepfake sessuali è stato al centro di diversi casi internazionali, compresi episodi che hanno coinvolto personaggi pubblici e piattaforme digitali.

La Commissione europea aveva già avviato un’indagine su X per verificare la gestione dei rischi legati a immagini sessualmente esplicite generate dal chatbot Grok AI, nell’ambito delle regole previste dal Digital Services Act.

Il nuovo divieto punta quindi a colpire non solo la diffusione dei contenuti, ma anche gli strumenti progettati per crearli. L’obiettivo è impedire che tecnologie apparentemente accessibili possano essere usate per produrre materiale intimo falso, danneggiando reputazione, dignità e sicurezza delle vittime.

AI Act, tra divieti e rinvii

Le modifiche discusse a livello europeo non riguardano soltanto i deepfake sessuali. Il pacchetto collegato all’AI Act prevede anche uno slittamento di alcune scadenze per l’applicazione delle regole sui sistemi ad alto rischio e sugli obblighi di trasparenza per i contenuti generati con IA. Secondo The Verge, il voto del Parlamento europeo sostiene anche l’inserimento del divieto delle app “nudify” nella normativa, ma le modifiche devono completare l’iter istituzionale prima di entrare pienamente in vigore.

Questo significa che il percorso legislativo non è ancora concluso in ogni suo passaggio, ma la direzione politica appare chiara: l’Unione europea vuole rafforzare la protezione delle persone contro gli abusi dell’intelligenza artificiale, soprattutto quando riguardano la sfera intima e sessuale.

Privacy, consenso e sicurezza digitale

Il punto centrale della nuova stretta è il consenso. Le immagini intime generate artificialmente possono sembrare reali, circolare rapidamente online e causare danni personali, professionali e psicologici alle vittime. Per questo l’UE punta a trattare i deepfake sessuali non consensuali come una delle forme più gravi di abuso tecnologico.

La misura rappresenta anche un messaggio alle piattaforme e agli sviluppatori: l’innovazione nel campo dell’intelligenza artificiale dovrà rispettare limiti chiari quando entra in gioco la dignità della persona. La tecnologia potrà continuare a svilupparsi, ma non potrà essere usata per produrre contenuti sessuali falsi e lesivi senza responsabilità.

Una stretta destinata a pesare sul mercato digitale

Se confermato nel testo finale, il divieto avrà effetti importanti per sviluppatori, piattaforme, app store e servizi online. Le aziende che offrono strumenti di generazione o modifica delle immagini dovranno rafforzare controlli, filtri e sistemi di prevenzione per evitare utilizzi abusivi.

Per gli utenti, invece, la novità potrebbe segnare un passo avanti nella tutela della propria immagine digitale. I deepfake sessuali sono diventati uno dei rischi più concreti dell’IA generativa: l’intervento europeo punta a ridurre questo spazio di abuso e a rendere più chiara la responsabilità di chi crea, distribuisce o mette a disposizione strumenti dannosi.

La nuova stretta dell’UE sui deepfake sessuali conferma quindi una linea sempre più netta: l’intelligenza artificiale può essere uno strumento di innovazione, ma non può diventare un mezzo per violare la dignità, la privacy e il consenso delle persone.