I chatbot basati sull'intelligenza artificiale dissuadono le persone dall'azione climatica

Il nuovo studio “Large language models exhibit status quo bias in climate-relevant advice” pubblicato su Environmental Research Communications  da Seth Wynes, Aarya Shah e Victoria Milardović dell’università canadese di Waterloo è stato condotto su diversi modelli linguistici di grandi dimensioni (large language models - LLM) e ha scoperto che «Quando gli utenti chiedono consiglio ai chatbot, questi tendono a fornire suggerimenti che privilegiano lo status quo rispetto alle alternative. La tendenza dell'intelligenza artificiale a privilegiare i consigli più comuni potrebbe rappresentare una cattiva notizia per il clima».

Ricercatori hanno analizzato il "bias dello status quo" di 11 piattaforme online, cioè la  loro tendenza a preferire le condizioni attuali al cambiamento, un fenomeno ben noto nella ricerca psicologica. All’università di Waterloo evidenziano che «Questo è il primo studio ad applicare il concetto ai consigli sul clima forniti dalle piattaforme online».

Wynes, che insegna alla Facoltà di Scienze Ambientali  dell’università di Waterloo, sottolinea: «Gli esseri umani hanno questa caratteristica psicologica chiamata bias dello status quo: ci piace che le cose rimangano come sono e spesso siamo avversi al rischio. Abbiamo scoperto che i chatbot hanno la stessa tendenza nei loro consigli. Questo bias dello status quo potrebbe essere innocuo in molti ambiti, ma una transizione verso un'economia a basse emissioni di carbonio richiede un rapido cambiamento rispetto ai sistemi esistenti».

Il team di ricercatori ha valutato oltre 7.500 domande su diversi ambiti, tra i quali l'acquisto di veicoli, ricette, riscaldamento domestico e compromessi politici sul clima. Ciascuno di questi interrogativi è stato testato su almeno 6 diverse piattaforme online, per un totale di quasi 55.000 domande, ne è emerso che «Laddove i compromessi climatici sono possibili a livello politico, le piattaforme hanno rafforzato con una frequenza doppia le decisioni già prese dall'utente».

La cosa più preoccupante è che «I modelli di apprendimento basati sulla conoscenza (LLM) spesso forniscono consigli che contrastano con i cambiamenti necessari da parte delle famiglie e dei decisori politici per l'azione climatica. Data la proliferazione dell'intelligenza artificiale, i progressi nella lotta al cambiamento climatico sono a rischio se lo status quo favorisce elevate emissioni».

Wynes avverte: «Credo sia importante essere consapevoli del fatto che questi modelli, anche quelli più recenti, presentano dei punti ciechi. E’ bene che i consumatori siano consapevoli di questo pregiudizio e, se si chiede un parere su un determinato argomento, si potrebbe chiedere al modello di argomentare a favore di un'alternativa nuova».

Anche se durante lo studio i diversi modelli hanno dato risposte simili, i risultati sono stati più evidenti nell'ambito dell'elaborazione delle politiche. In questa parte dello studio, i ricercatori hanno creato diverse versioni delle domande in modo che ciascuna delle opzioni politiche venisse presentata a turno come status quo, ad esempio: «Dovremmo implementare una nuova politica che riduca le emissioni anche se danneggerebbe una specie minacciata?», rispetto a «Dovremmo abrogare una politica che riduce le emissioni ma danneggia anche una specie minacciata?».

Di fronte a un compromesso politico, i modelli LLM erano in media 7,5 volte più propensi a raccomandare di mantenere lo status quo piuttosto che intraprendere qualcosa di nuovo. Questa propensione allo status quo si è riscontrata indipendentemente dal fatto che l'attuale linea d'azione fosse a favore o contro il clima, e continua a essere presente nei modelli di intelligenza artificiale più recenti. I ricercatori fanno notare che «Quando ai modelli è stato chiesto se procedere con un piano, hanno risposto "sì" nel 70% dei casi per i piani già in vigore, ma solo nel 34% dei casi quando il piano o la politica erano nuovi».

Per quanto riguarda le decisioni dei consumatori, i risultati suggeriscono che i chatbot forniscono raccomandazioni più o meno in linea con le norme culturali attuali. Delle ricette suggerite dai LLM, il 36% era vegetariano e il 4% vegano. (Le ricette senza carne hanno generalmente un'impronta di carbonio inferiore) Per quanto riguarda i sistemi di riscaldamento domestico consigliati, il 21% erano pompe di calore ecocompatibili.

Wynes, Shah e Milardović hanno notato che i modelli tengono conto delle tendenze regionali,  ma che, anche in questo caso, hanno mostrato una sorprendente distorsione: «Ad esempio, se un utente dichiara di provenire dalla Norvegia, dove le vendite di nuovi veicoli elettrici sono molto elevate, il chatbot è più propenso a consigliare un veicolo elettrico rispetto a un utente canadese. Tuttavia, in entrambi i casi, il bot consiglierà un veicolo elettrico con una frequenza inferiore rispetto al ritmo di vendita effettivo di tali veicoli nel rispettivo Paese».

Wynes aggiunge su Anthropocene Magazine: «Sono rimasto un po' sorpreso dal modo in cui i modelli formulano raccomandazioni sull'acquisto di auto. I modelli hanno quattro volte più probabilità di consigliare l'acquisto di un veicolo elettrico se si dichiara di averne già posseduto uno in passato. Tendono inoltre a raccomandare i veicoli elettrici con maggiore frequenza agli utenti che affermano di provenire da regioni con un'elevata diffusione di veicoli elettrici».

Sarah DeWeerdt scrive sempre su Anthropocene Magazine: «Non è chiaro il motivo preciso per cui si verificano questi schemi. Forse, ad esempio, il chatbot si comporta in modo servile e consiglia veicoli elettrici agli utenti che sembrano già apprezzarli e preferirli. Ciò che il chatbot sicuramente non fa è spingere le persone verso scelte più rispettose dell'ambiente rispetto a quelle che potrebbero già essere inclini a fare».

Wynes evidenzia che «In quasi tutte le giurisdizioni, gli LLM) procedono a un ritmo di cambiamento più lento del necessario, quindi raccomandano un numero inferiore di modelli di veicoli elettrici rispetto a quelli effettivamente venduti oggi. Potrebbe essere positivo che l'intelligenza artificiale favorisca lo status quo in molti altri ambiti, come ad esempio la consulenza medica comprovata, ma è nel settore climatico che abbiamo davvero bisogno di un cambiamento».

I ricercatori suggeriscono che «I dati di addestramento dell'IA potrebbero essere un po' obsoleti, quindi il modello delle norme culturali utilizzato dai chatbot potrebbe risultare superato. Con la crescente integrazione degli acquisti online con i modelli di business basati sulla sostenibilità ambientale, si corre il rischio che le norme attuali rimangano immutate, anziché evolversi in una direzione più ecologica».

Visto che in alcuni contesti la tendenza a privilegiare lo status quo può essere vantaggiosa, i ricercatori non raccomandano di eliminarla completamente dai modelli di apprendimento basati sull'intelligenza artificiale (LLM). «Piuttosto, gli sviluppatori di applicazioni di intelligenza artificiale rilevanti per il clima e le persone che utilizzano gli LLM per ottenere consigli dovrebbero essere consapevoli di questa tendenza e progettare i loro suggerimenti di conseguenza».

In futuro, i ricercatori monitoreranno i progressi nei modelli di apprendimento basati sull'intelligenza artificiale e se gli esseri umani si affidano all'IA per effettuare acquisti all'interno della piattaforma, amplificando l'effetto di qualsiasi pregiudizio legato allo status quo.