Meta usa tool AI per bloccare inserzioni pedopornografiche

I predatori sessuali usano spesso i social media per cercare di contattare i minori e distribuire materiale pedopornografico (Child Sexual Abuse Material o CSAM in inglese). Meta ha annunciato nuove misure per contrastare questa attività illegale sulle sue piattaforme. Una di esse prevede l’uso di tool AI per rilevare e rimuovere inserzioni che portano a siti esterni con CSAM.

Oltre 33 milioni di CSAM in sei mesi

Meta avvia un’indagine quando rileva o riceve segnalazioni di contenuti di abuso sessuale o sfruttamento di minori. In tal caso, i contenuti vengono rimossi e gli account responsabili vengono chiusi. L’azienda di Menlo Park segnala successivamente i contenuti al National Center for Missing & Exploited Children (NCMEC).

Da alcuni anni, un team di esperti che include ex investigatori dell’FBI conduce indagini manuali per individuare, rimuovere e segnalare in modo proattivo reti di account riconducibili a predatori. Questi ultimi cambiano però le loro tattiche per non essere scoperti. Sempre più spesso sfruttano la pubblicità per eludere i controlli. Gli annunci sembrano innocui, ma indirizzando gli utenti verso materiale illegale ospitato su siti esterni.

Per individuare queste inserzioni, Meta ha implementato misure aggiuntive, alcune delle quali sono basate su tool AI. Un nuovo modello è in grado di identificare annunci che portano l’utente su siti con CSAM. Un team di agenti AI effettua invece la scansione dei sistemi per rilevare eventuale falle che possono essere sfruttate per aggirare le protezioni. Meta può inoltre scoprire se lo stesso predatore crea un nuovo account dopo la chiusura del precedente.

Quando i tool rilevano immagini e video vietati, PhotoDNA e altre tecnologie permettono di individuare e rimuovere copie simili. Quando un link viene bloccato, Meta cerca e cancella annunci, post e commenti che contengono il link. Ovviamente i contenuti pedopornografici vengono segnalati alle forze dell’ordine per consentire di identificare l’autore.

Tra gennaio e giugno 2026 sono stati rilevati e bloccati circa 33,2 milioni di CSAM su Facebook e Instagram. Oltre il 97% è stato rimosso in maniera proattiva, ovvero prima della loro visualizzazione e segnalazione da parte degli utenti.