Deepfake su Google Earth: rimosso il tool con Nano Banana 2

Dal 30 luglio era possibile sfruttare il modello Nano Banana 2 (Gemini 3.1 Flash Image) per aggiungere immagini satellitari, aeree e 3D a Google Earth. L’azienda di Mountain View non ha tuttavia previsto il possibile abuso della funzionalità, ovvero la generazione di deepfake. Per questo motivo ha rimosso il tool dopo 24 ore.

Nessun controllo dei prompt

Google ha introdotto la funzionalità pensando che potesse essere utile in diversi modi. Utilizzando il pulsante dedicato e inserendo un prompt testuale nella versione web di Google Earth, il modello Nano Banana 2 poteva generare immagini da sovrapporre a quelle dei luoghi reali.

Nel post di annuncio sono indicati alcuni esempi di utilizzo. Gli utenti potevano ad esempio immaginare com’era un luogo nel passato, generare un’infografica, creare un piano immobiliare o modificare un edificio esistente. Google voleva quindi offrire un tool utile a studenti, insegnanti, architetti e altri professionisti.

L’azienda di Mountain View non ha però implementato adeguate protezioni, in quanto si poteva inserire qualsiasi prompt. Un giornalista della BBC ha ironicamente scritto su X:

Non c’è alcuna possibilità che questa nuova funzionalità di generazione di immagini tramite intelligenza artificiale di Google Earth, una delle fonti di prove visive più affidabili per giornalisti e ricercatori, possa essere utilizzata impropriamente per diffondere disinformazione online. Non c’è assolutamente alcun motivo di preoccupazione.

Nel post è citato l’articolo pubblicato da Henk van Ess che aveva aggiunto un impianto nucleare in Iran e altre immagini fasulle. Google ha risposto sottolineando che il watermark SynthID consente di identificare le immagini AI tramite app Gemini o Lens in Search. In realtà non funziona bene, quindi non sempre rileva le immagini AI.

Google ha successivamente deciso di rimuovere il tool da Earth:

Sappiamo che le persone si affidano in modo particolare a Google Earth per una visione affidabile del mondo. Abbiamo visto professionisti del settore geospaziale utilizzare questa funzionalità per una serie di scopi utili, ma abbiamo anche notato che alcune persone condividono screenshot di immagini generate che sembrano violare le nostre norme. Pertanto, stiamo disattivando temporaneamente questa funzionalità in Google Earth mentre lavoriamo all’implementazione di misure di sicurezza più rigorose. È importante sottolineare che le immagini generate non venivano visualizzate nell’esperienza principale di Google Earth e presentavano un watermark che ne indicava la generazione tramite intelligenza artificiale.

L’azienda di Mountain View ha quindi sospeso la funzionalità e implementerà maggiori protezioni che, in teoria, dovrebbero bloccare determinati prompt.