Meta deve rimuovere i deepfake sessuali da Instagram

Gli esperti del comitato che esamina i ricorsi degli utenti (Oversight Board) ha chiesto a Meta di rafforzare le protezioni per le persone non pubbliche che sono bersaglio di deepfake AI sessuali. L’azienda di Menlo Park non ha rimosso un video pubblicato su Instagram, nonostante le segnalazioni ricevute. La decisione è correlata ad un caso che risale a settembre 2025.

Meta deve aggiornare le regole sullo sfruttamento sessuale degli adulti

Il comitato ha innanzitutto evidenziato che in molti paesi sono state introdotte nuove regole per le piattaforme che pubblicano contenuti generati dall’AI. Il Parlamento europeo ha recentemente approvato il ban per le app di nudificazione e la creazione di deepfake sessuali. La condivisione di video e immagini che raffigurano abusi sessuali sui minori è diventato un reato penale.

Un utente Instagram ha segnalato a Meta un video di 8 secondi, generato dall’AI, che raffigurava una donna reale. Nonostante le successive segnalazioni, il video è rimasto sulla piattaforma. Un utente ha quindi presentato ricorso al comitato, specificando che il video raffigurava un’amica (che ha chiuso l’account). Meta ha dichiarato che non c’era nessuna violazione, ma ha bloccato la visibilità ai minorenni.

Il video non è stato rimosso perché non è stato segnalato dalla persona reale raffigurata. Il comitato ritiene invece che il contento soddisfi i tre criteri della politica per le immagini intime non consensuali: contenuto non commerciale in un ambiente apparentemente privato, donna quasi nuda e assenza del consenso. Meta deve pertanto rimuovere il video da Instagram.

Il comitato suggerisce di aggiungere alle regole sullo sfruttamento sessuale degli adulti che sono vietate le rappresentazioni sessualizzate di persone reali generate dall’intelligenza artificiale. Nel modulo per la segnalazione deve essere aggiunta una categoria separata da “molestie” e “nudità”. Meta deve infine consentire agli utenti di designare “account collegati” (amici fidati, familiari o conoscenti) che possono segnalare per loro conto potenziali violazioni degli standard della community, come la pubblicazione di immagini intime non consensuali.