Il Garante blocca Clothoff: stop all’app che “spoglia” con l’IA

lentepubblica.it

Il Garante per la protezione dei dati personali ha imposto un blocco immediato all’applicazione Clothoff, un software basato su intelligenza artificiale capace di generare immagini di “nudo virtuale” partendo da fotografie reali.

La decisione è arrivata in via d’urgenza, dopo che l’Autorità ha riscontrato gravi violazioni della normativa europea sulla tutela dei dati e potenziali rischi per la dignità e la riservatezza delle persone coinvolte.

L’app, gestita da una società con sede nelle Isole Vergini Britanniche, consente agli utenti di caricare foto di individui vestiti per ottenere, attraverso l’elaborazione automatica, immagini alterate che li mostrano senza indumenti. Un servizio disponibile sia in forma gratuita sia a pagamento, che permette anche di modificare pose, fisionomie e altri dettagli fisici. Il problema, sottolinea il Garante, è che non esiste alcuna verifica sull’età o sul consenso delle persone ritratte, né vengono inseriti avvisi chiari che segnalino la natura artificiale dei contenuti prodotti.

Deepfake e “nudificazione digitale”: un allarme sociale crescente

Il caso Clothoff si inserisce in un contesto più ampio: quello del proliferare di applicazioni di deepfake, strumenti di intelligenza artificiale in grado di manipolare immagini, video e audio in modo da renderli verosimilmente autentici. Tra questi, i cosiddetti “deep nude”, che simulano la rimozione dei vestiti, rappresentano una delle forme più invasive e pericolose.

Negli ultimi mesi, diversi episodi di cronaca hanno mostrato come queste tecnologie vengano utilizzate per creare materiale pornografico falso, spesso diffuso sui social network senza il consenso delle vittime. Un fenomeno che colpisce in particolare donne e minorenni, e che il Garante descrive come un vero e proprio “allarme sociale”.

Le violazioni riscontrate

Secondo l’Autorità, la società che gestisce Clothoff non ha adottato misure adeguate per prevenire abusi. Pur dichiarando nei propri termini di servizio che è vietato caricare immagini di minori o di persone senza consenso, la piattaforma non mette in atto meccanismi di controllo effettivi per impedire che ciò accada. Inoltre, il presunto watermark (“Fake”) applicato alle immagini per indicarne la natura artificiale è talmente poco visibile da poter essere facilmente rimosso, vanificando ogni garanzia di riconoscibilità del contenuto come generato da IA.

Il Garante ha quindi ritenuto che Clothoff violasse i principi fondamentali del Regolamento europeo sulla protezione dei dati (GDPR), in particolare quelli di liceità, correttezza e responsabilità (articolo 5), oltre alle norme sulla progettazione sicura dei sistemi (articolo 25).

Un intervento urgente per tutelare gli utenti italiani

Data la gravità della situazione e il numero potenzialmente elevato di persone coinvolte, il Garante ha deciso di intervenire con un provvedimento d’urgenza. Si dispone la limitazione provvisoria del trattamento dei dati personali degli utenti italiani da parte della società, fino al completamento dell’indagine in corso.

Il provvedimento ha effetto immediato e vieta all’azienda di trattare ulteriormente i dati provenienti dal nostro Paese. La decisione si basa anche sull’articolo 3 del GDPR, che estende l’applicabilità della normativa europea a tutte le aziende che offrono servizi a cittadini dell’Unione, anche se hanno sede fuori dal territorio comunitario.

Il mancato rispetto della misura disposta, avverte il Garante, costituirebbe reato e potrebbe comportare sanzioni amministrative molto pesanti, come previsto dall’articolo 83 del Regolamento.

Obblighi di trasparenza e responsabilità dei fornitori di IA

L’Autorità ha richiamato anche il nuovo Regolamento europeo sull’intelligenza artificiale (AI Act), che stabilisce l’obbligo per i fornitori di sistemi di IA di adottare tecniche affidabili per identificare chiaramente i contenuti generati artificialmente. Le immagini e i video manipolati devono essere etichettati in modo visibile, affinché gli utenti possano riconoscerli come prodotti artificiali e non reali.

Clothoff, invece, ha scelto un approccio opposto: la segnalazione della natura sintetica delle immagini è quasi invisibile e facilmente eliminabile, rendendo possibile la diffusione di contenuti falsi come se fossero autentici. Un comportamento, secondo il Garante, in contrasto con i principi di trasparenza e tutela della persona stabiliti dalle regole europee.

Il nodo dei minori e la mancanza di controlli reali

Particolarmente grave, sottolinea l’Autorità, è la possibilità che la piattaforma risulti utilizzata da ragazzi minorenni, o che vengano caricati ritratti di bambini e adolescenti. Pur dichiarando di disporre di filtri di sicurezza per impedire l’uso di immagini di soggetti sotto i 20 anni, la società non ha fornito alcuna prova concreta dell’efficacia di tali sistemi.

Il Garante ha quindi concluso che il gestore del servizio non ha agito in modo proattivo per garantire la legittimità dei trattamenti e la protezione delle persone ritratte, mancando di rispettare i principi di “privacy by design” e “privacy by default” richiesti dal GDPR.

Verso una regolamentazione più rigorosa dei deepfake

L’intervento del Garante italiano rappresenta uno dei primi casi concreti di applicazione delle nuove norme europee sull’intelligenza artificiale a strumenti di manipolazione visiva. La decisione segnala una linea di tolleranza zero verso le piattaforme che sfruttano l’IA per creare contenuti lesivi della dignità umana e della reputazione delle persone.

In attesa degli esiti dell’indagine definitiva, il messaggio dell’Autorità è chiaro: la tecnologia non può trasformarsi in uno strumento di violenza digitale. Proteggere i dati e la dignità delle persone, specialmente dei più giovani, resta una priorità assoluta nell’era dell’intelligenza artificiale.

Il testo del provvedimento

Qui il documento completo.

The post Il Garante blocca Clothoff: stop all’app che “spoglia” con l’IA appeared first on lentepubblica.it.