Deepfake sessuali con Grok: SpaceXAI denuncia un utente

SpaceXAI (ex xAI) ha denunciato un uomo della South Carolina (Terry Wayne Harwood), in quanto ha utilizzato Grok per generare deepfake sessuali di persone reali (inclusi minori) senza il loro consenso. L’azienda di Elon Musk scrive nella denuncia (PDF) che l’utente ha aggirato le protezioni e che le sue azioni hanno causato danni di immagine.

SpaceXAI scarica la colpa sugli utenti?

Tra fine dicembre 2025 e inizio gennaio 2026 sono state condivise su X numerose immagini sessualizzate di donne e minori (circa 3 milioni secondo la stima del CCDH). La proliferazione dei deepfake non consensuali è iniziata con l’arrivo della modalità Spicy di Grok che consente di spogliare le persone presenti nelle immagini caricate dagli utenti (oggi è disponibile solo con abbonamento).

In seguito all’avvio delle prime indagini in alcuni paesi, Elon Musk aveva evidenziato che chiunque usi Grok per generare contenuti illegali subirà le stesse conseguenze di chi carica contenuti illegali. Terry Wayne Harwood non ha seguito il consiglio. Ha violato ripetutamente e deliberatamente i termini d’uso del servizio, aperto diversi account con false generalità e inserito specifici prompt per aggirare le protezioni di Grok.

Tra l’8 dicembre 2025 e il 18 febbraio 2026, Harwood ha usato Grok per generare deepfake sessuali (immagini e video) di adulti e minori, senza il loro consenso. Nella denuncia è riportato un prompt che Grok ha rifiutato di eseguire e che l’utente ha successivamente modificato per aggirare il blocco.

Il 9 marzo 2026, il Procuratore della South Carolina ha annunciato l’arresto di Harwood (avvenuto il 26 febbraio 2026) per aver distribuito materiale pedopornografico. Alcune delle immagini sarebbero state generate on Grok (ma l’ufficio del Procuratore non ha confermato).

SpaceXAI chiede al giudice di imporre il pagamento delle spese legali e un risarcimento per i danni di immagine. L’azienda di Elon Musk vuole in pratica dimostrare l’uso non consentito di Grok da parte di Harwood, anche se Grok permette di creare deepfake.

La Commissione europea ha avviato un’indagine nei confronti di X per la presunta violazione del Digital Services Act. A metà giugno è stata approvata una modifica all’AI Act che introduce il ban per i sistemi AI che creano deepfake sessuali senza consenso.