Reddit usa l'AI per bloccare lo spam generato dall'AI

Come qualsiasi piattaforma social, anche Reddit è invasa da milioni di contenuti “spazzatura”. Con la diffusione dell’intelligenza artificiale il numero è aumentato esponenzialmente. L’azienda di San Francisco ha quindi sfruttato la stessa tecnologia per rilevare e bloccare lo spam generato dall’AI. Sono stati inoltre pubblicati alcuni dati relativi alla moderazione.

Intercettati oltre 25.000 post e commenti spam al giorno

Come riporta Bloomberg, Reddit deve combattere contro un nuovo tipo di spam, ovvero contenuti di marketing occulto creati da marchi che desiderano essere menzionati dai chatbot AI. Google e OpenAI hanno sottoscritto accordi per accedere ai post degli utenti e usarli nelle risposte di Gemini e ChatGPT.

Reddit ha quindi migliorato i suoi tool AI per rilevare questi contenuti spam prima della pubblicazione. I sistemi automatizzati possono individuare gli account creati per tali attività. Sono stati quindi intercettati oltre 25.000 post e commenti spam al giorno, bloccate oltre 23 milioni di visualizzazioni spam e revocati quasi 2 milioni di voti non autentici negli ultimi tre mesi.

L’esposizione degli utenti allo spam è diminuito di circa il 20% tra gennaio e marzo 2026 rispetto ai primi tre mesi del 2025.

Analizziamo i segnali non appena un account viene creato per bloccare gli utenti sospetti prima ancora che abbiano la possibilità di pubblicare contenuti. Per coloro che riescono a pubblicare, utilizziamo i modelli LLM per individuare gli schemi coordinati e altamente sottili di comportamenti falsi che i sistemi precedenti non riuscivano a rilevare.

Reddit deve inoltre impedire la pubblicazione di contenuti vietati dalle regole, tra cui incitamento all’odio, molestie e minacce. I sistemi automatici consentono ora di ridurre a meno di 5 secondi l’intervallo di tempo tra rilevazione dei contenuti e applicazione delle azioni di moderazione.

L’esposizione a tali contenuti e i falsi positivi sono diminuiti di oltre il 40%. Reddit ha infine ricordato che la moderazione avviene con tre livelli. Ci sono gli admin della piattaforma (esperti pagati), i moderatori delle community (volontari) e gli utenti. Questi ultimi possono aumentare o diminuire la visibilità dei contenuti tramite upvote (freccia su) e downvote (freccia giù).