Gemini di Google è ad alto rischio per i minori, lo studio

Common Sense Media, organizzazione no profit specializzata nella sicurezza digitale per i più giovani, ha pubblicato una valutazione dettagliata su Gemini di Google. Il verdetto non è dei migliori… è stato definito “Ad alto rischio” per bambini e adolescenti.

Common Sense Media boccia Gemini: troppi rischi per i minori

Nonostante Gemini dichiari chiaramente di essere un algoritmo e non un amico, un dettaglio importante per evitare confusione emotiva, l’organizzazione ha rilevato che le versioni “Under 13” (Gemini for Kids) e “Teen Experience” sono, di fatto, adattamenti semplificati della versione per adulti, con qualche filtro in più.

Secondo Robbie Torney, direttore dei programmi AI di Common Sense, una piattaforma pensata per i bambini deve essere costruita da zero, non derivata da un prodotto per adulti.

Il report evidenzia che Gemini può ancora fornire risposte non adatte ai minori, tra cui:

• Informazioni su sesso, droghe e alcol;
• Suggerimenti discutibili sulla salute mentale;
• Conversazioni che potrebbero sembrare “troppo umane” o relazionali.

Questi aspetti sono particolarmente preoccupanti per i genitori, soprattutto alla luce di recenti casi di suicidio tra adolescenti legati all’uso prolungato di chatbot. OpenAI è attualmente coinvolta in una causa per omicidio colposo, mentre Character.AI è già stato citato in giudizio per un caso simile.

Apple valuta Gemini per la nuova Siri: rischio amplificato?

La valutazione arriva in un momento delicato: secondo alcune indiscrezioni, Apple starebbe considerando Gemini come motore AI per la prossima versione di Siri. Se confermato, milioni di adolescenti potrebbero avere accesso diretto a Gemini, aumentando il rischio di esposizione a contenuti non filtrati, a meno che Apple non intervenga con misure di sicurezza più rigorose.

La risposta di Google

Google ha respinto la valutazione, affermando di avere politiche specifiche per gli utenti sotto i 18 anni e di collaborare con esperti esterni per rafforzare le protezioni. Ha ammesso che alcune risposte di Gemini non funzionavano come previsto e ha già introdotto nuove misure di sicurezza. L’azienda ha anche sottolineato che il report di Common Sense potrebbe aver testato funzionalità non disponibili per i minori, ma non ha potuto verificarlo.