Google crea AI anti-truffa che analizza i messaggi sullo smartphone

Google DeepMind e GovTech Singapore stanno sviluppando un’intelligenza artificiale capace di riconoscere le truffe che prendono forma nel corso di una conversazione. Anziché limitarsi a individuare link sospetti o parole specifiche, il sistema cerca di identificare le strategie con cui i truffatori conquistano la fiducia delle vittime e le manipolano.

La tecnologia utilizza Gemma, la famiglia di modelli AI aperti di Google, e potrebbe rivelarsi utile ben oltre Singapore. Le tecniche con cui i truffatori conquistano la fiducia delle vittime sono un problema globale.

L’AI di Google cerca di capire come si costruisce una truffa

Il sistema funziona in due fasi. Un primo programma leggero esamina i messaggi in arrivo al fine di rilevare eventuali segnali sospetti, limitando al contempo il consumo di risorse dello smartphone.

Se viene identificato un rischio, un modello Gemma specializzato analizza un insieme più ampio di messaggi. L’obiettivo è individuare i meccanismi di manipolazione, in particolare l’usurpazione d’identità o le richieste insolite, anziché limitarsi a cercare parole chiave o link fraudolenti.

Prendiamo l’esempio di un falso reclutatore che scambia messaggi con una persona per diversi giorni. I primi messaggi possono sembrare perfettamente ordinari. È solo dopo aver instaurato un rapporto di fiducia che richiede delle “spese di pratica” per finalizzare un’assunzione fittizia. È questo tipo di progressione che Google cerca di identificare, senza che si sappia ancora a quale stadio il suo sistema sarebbe in grado di far scattare un’allerta.

Quando viene sospettato un tentativo, il telefono può mostrare un avviso che invita l’utente a usare prudenza prima di comunicare informazioni sensibili o effettuare un pagamento.

Per addestrare la sua AI, Google e GovTech hanno utilizzato dati anonimizzati provenienti da segnalazioni di frodi e informazioni sulle modalità operative locali, senza integrare le conversazioni private dei cittadini.

I dubbi sull’efficacia e la diffusione

L’analisi dei messaggi direttamente sul dispositivo non è una novità. WhatsApp propone già Scam Alert, mentre Messaggi di Google rileva alcuni SMS fraudolenti. Il nuovo progetto si distingue per la sua analisi delle conversazioni nel tempo, con un modello addestrato a riconoscere strategie di manipolazione a partire da dati sulle truffe censite.

Gli scambi vengono analizzati sullo smartphone, senza essere trasmessi ai server di Google o delle autorità competenti. Una garanzia interessante per la riservatezza, anche se restano domande sull’accesso ai messaggi, sulle applicazioni coinvolte e sui controlli lasciati all’utente.

Google non fornisce ancora cifre dettagliate sull’efficacia del sistema o sui falsi allarmi. Sviluppata inizialmente per Singapore, questa tecnologia non è ancora disponibile per il grande pubblico. Non si sa quali servizi di messaggistica e quali smartphone saranno compatibili, né se arriverà nel resto del mondo, anche se sarebbe utile (a patto che funzioni).