Le risposte AI di Google accusate di mettere a rischio bambini e adolescenti: la replica e perché non basta

Un'organizzazione no-profit americana, la Youth AI Safety Institute di Common Sense Media, ha pubblicato un rapporto in cui accusa gli strumenti AI di Google Search, ovvero AI Overviews e AI Mode, di rappresentare un "rischio inaccettabile" per bambini e adolescenti. Google non ci ha messo molto a rispondere, e la risposta è tutt'altro che morbida.

La questione è rilevante perché non riguarda un prodotto di nicchia: AI Mode e AI Overviews sono già integrati nella ricerca Google che usiamo ogni giorno, e milioni di ragazzi ci finiscono sopra senza poterlo evitare.

"Le nostre funzioni di ricerca AI sono un modo incredibilmente utile per bambini e adolescenti di imparare, esplorare e dare senso alle informazioni e al mondo. Oltre alle solide garanzie di qualità e sicurezza integrate nella Ricerca, i nostri strumenti AI forniscono livelli extra di protezione, e i genitori hanno controlli per disattivare la Ricerca."

Google aggiunge che non è riuscita a replicare né a verificare molte delle risposte problematiche citate nel rapporto, e che le query usate nei test erano "ambigue e artificiose", non rappresentative di come le persone usano davvero la ricerca.

Un punto tecnico interessante: Google fa notare che il rapporto critica la Ricerca anche quando mostra semplici link web invece di risposte generate dall'AI. AI Overviews e AI Mode, infatti, non producono sempre una risposta generata: lo fanno solo quando Google ha sufficiente fiducia nella capacità dell'AI di rispondere in modo appropriato.

Sul fronte sicurezza, Google elenca le protezioni già attive: disclaimer e link a fonti esterne per i temi sensibili, risorse di alfabetizzazione AI per i giovani, consigli su come verificare le informazioni, e per chi è in crisi vengono mostrate le linee di assistenza psicologica, sviluppate con esperti accademici e clinici. I genitori, inoltre, hanno due modalità per controllare come i figli accedono alla Ricerca.

Vale la pena contestualizzare: il rapporto di Common Sense Media non se la prende solo con Google. Nella stessa analisi, Meta AI, Grok, Character.AI e i chatbot per la salute mentale vengono tutti classificati come "rischio inaccettabile". Gemini K-12, Perplexity e ChatGPT-5 finiscono nella categoria "alto rischio". L'unico a cavarsela con una valutazione di "rischio moderato" è Claude di Anthropic.

Siamo insomma di fronte a uno scontro tra chi fa i test e chi li subisce, e la verità probabilmente sta nel mezzo, perché comunque le risposte date dall'AI non sono deterministiche. La stessa query produrrà facilmente risposte lievemente diverse ogni volta e proprio questa sua impredicibilità rende ancora più complesso e difficile intervenire.

Detto questo, i rischi dell'AI per i minori sono reali e documentati, e non basta il fatto che non siano sempre presenti ad assolvere l'IA: dovrebbero esserci degli strumenti adatti a far sì che, soprattutto in presenza dei minori, certi "errori" non vengano mai commesi. Quello che è certo è che il tema non sparirà presto, soprattutto mentre l'UE spinge per regole più stringenti sui minori e i social media.

L'articolo Le risposte AI di Google accusate di mettere a rischio bambini e adolescenti: la replica e perché non basta sembra essere il primo su Smartworld.