Airbus al posto di Boeing: grave errore di AI Overview di Google su disastro Air India

La funzione AI Overview di Google Search ha commesso un errore particolarmente grave: parlando del disastro aereo del volo Air India 171, in cui hanno perso la vita 241 persone a bordo e almeno 28 a terra, ha indicato come coinvolto un Airbus A330-243 invece del Boeing 787 Dreamliner realmente precipitato. L'errore è stato documentato da almeno un utente su Reddit, che ha condiviso una schermata dello snippet errato, priva di segni di manipolazione.

Cercando "incidenti che coinvolgono aerei Airbus", un utente ha notato che l'AI Overview associava il disastro dell'Air India a un Airbus A330, citando informazioni completamente errate. Eseguendo ulteriori test è emerso un quadro ancora più caotico: a seconda delle variabili della ricerca, le risposte AI identificavano ora Boeing, ora Airbus, e in alcuni casi addirittura una combinazione confusa dei due nomi.

Il motivo di queste discrepanze non è semplice da individuare. Gli algoritmi generativi di Google sono di tipo non-deterministico, il che significa che possono fornire risposte diverse anche a partire dagli stessi input. Una possibile spiegazione è che l'AI, nell'analizzare i risultati disponibili, abbia registrato menzioni di Airbus come principale concorrente di Boeing, presenti in molti articoli sull'incidente, traendone conclusioni errate in fase di sintesi automatica.

AI Overview è la nuova funzione introdotta da Google Search nel 2024, recentemente attivata anche in Europa e in Italia. La sua comparsa tra i risultati di ricerca viene spiegata così dall'azienda: "quando i nostri sistemi stabiliscono che l'AI generativa può essere particolarmente utile, ad esempio per comprendere rapidamente le informazioni provenienti da una serie di fonti". Il sistema genera un riassunto in apertura dei risultati, spesso con un linguaggio sicuro e assertivo, che può indurre l'utente a prenderlo per corretto.

Alla fine dello snippet, così come nella pagina ufficiale di supporto, è riportata una formula di avvertimento: "le risposte dell'AI potrebbero contenere errori" e "sebbene entusiasmante, questa tecnologia in rapida e continua evoluzione potrebbe fornire informazioni imprecise o offensive". Tuttavia, in un contesto come quello di un disastro aereo, in cui l'attribuzione del costruttore è un dettaglio rilevante per comprendere la dinamica dei fatti e le responsabilità industriali, la presenza di un disclaimer a piè di pagina risulta del tutto insufficiente.

CLICCA QUI PER CONTINUARE A LEGGERE