DeepSeek, Mistral e NOVA AI dovranno avvisare meglio sul rischio "allucinazioni"

DeepSeek, Mistral e NOVA AI dovranno informare in modo più chiaro gli utenti sui limiti dei propri sistemi di AI generativa e sul rischio delle cosiddette "allucinazioni", cioè la produzione di contenuti inesatti o fuorvianti. È questo l’esito delle tre istruttorie avviate dall’AGCM, chiuse con l’accoglimento degli impegni presentati dalle società coinvolte, senza accertamento di infrazione.

Le istruttorie hanno riguardato Hangzhou DeepSeek Artificial Intelligence Co. Ltd e Beijing DeepSeek Artificial Intelligence Co. Ltd, indicate come DeepSeek, Mistral AI SAS, indicata come Mistral, e Scaleup Yazilim Hizmetleri Anonim Şirketi, società che offre NOVA AI, un servizio "cross-platform" che permette di accedere a più chatbot da un’unica interfaccia.

Al centro dei procedimenti c’è la trasparenza. L’Autorità Garante della Concorrenza e del Mercato ha chiesto interventi sui canali di accesso ai servizi, quindi siti internet e app, e nelle fasi che precedono l’acquisto o la registrazione. Chi usa questi strumenti dovrà sapere, prima e durante l’utilizzo, che le risposte generate dai sistemi di AI possono contenere errori, imprecisioni o elementi fuorvianti.

Gli impegni riguardano anche l’informativa precontrattuale, che dovrà essere integrata con avvertenze esplicite sui limiti di affidabilità dei contenuti generati e sulla necessità di verificarli. L'utente non sarà avvertito solo quando sta già usando il servizio, ma anche nella fase in cui sta decidendo se registrarsi o acquistare.

Nel procedimento relativo a DeepSeek, la società ha previsto anche un investimento tecnologico per ridurre il fenomeno delle "allucinazioni". La misura tiene conto di un limite tecnico indicato nella documentazione: allo stato attuale della tecnologia, il fenomeno non può essere eliminato completamente.

Per NOVA AI, gli impegni includono un chiarimento sulla natura del servizio offerto. Agli utenti dovrà essere spiegato che NOVA AI consente l’accesso, tramite un’unica interfaccia, ad alcuni chatbot, ma non offre un servizio di aggregazione e di elaborazione delle risposte. La piattaforma verrà quindi descritta come un punto di accesso unico a servizi distinti e non come un sistema che rielabora o combina autonomamente le risposte dei chatbot disponibili attraverso la sua interfaccia.

CLICCA QUI PER CONTINUARE A LEGGERE