Character.AI, multa da 158mila euro dal Garante Privacy: criticità su tutela minori

Il Garante per la protezione dei dati personali ha sanzionato Character Technologies per 158mila euro. La società statunitense gestisce Character.AI, piattaforma basata sull’intelligenza artificiale generativa che permette di creare personaggi virtuali e conversare con loro tramite chat. Un servizio utilizzato anche da utenti minorenni, proprio l’aspetto sul quale si è concentrata una parte significativa dell’istruttoria.

L’indagine è partita d’ufficio e ha portato alla luce diversi problemi sul trattamento dei dati personali. Secondo il Garante, l’informativa destinata agli utenti presentava alcune carenze, mentre sono arrivate in ritardo sia la valutazione d’impatto sulla protezione dei dati, la cosiddetta DPIA (Data Protection Impact Assessment), sia la nomina del rappresentante della società nell’Unione europea.

Le verifiche hanno riguardato anche i sistemi adottati per riconoscere l’età degli utenti e le garanzie previste per chi non ha ancora raggiunto la maggiore età. Character Technologies è intervenuta su alcuni aspetti durante l’istruttoria, ma secondo il Garante le misure introdotte non sono ancora sufficienti rispetto ai rischi legati a un servizio di intrattenimento basato sull’AI generativa e accessibile anche ai più giovani.

La società dovrà quindi assicurare il corretto funzionamento dei sistemi di verifica dell’età e rendere più efficaci i meccanismi che impediscono ai minori già bloccati di tentare immediatamente una nuova registrazione. Il provvedimento fa riferimento al cosiddetto “periodo di raffreddamento”, durante il quale non dovrebbe essere possibile aggirare il blocco creando un altro account.

Il Garante ha inoltre disposto che i profili degli utenti minorenni vengano impostati automaticamente come privati. Character Technologies avrà 120 giorni dalla ricezione del provvedimento per comunicare all’Autorità le misure adottate e dimostrare di essersi adeguata alle prescrizioni.