Allarme AI: anche Google Gemini è sfuggito all'ambiente di test hackerando tre aziende

Doveva attaccare un'azienda fittizia all'interno di un ambiente di test controllato (sandbox). Ma ha finito per hackerarne tre vere. Google ha infatti confermato al Wall Street Journal che la sua AI Gemini è riuscita a individuare e sfruttare alcune vulnerabilità per bucare la gabbia del test e collegarsi a internet, arrivando a violare i sistemi di aziende reali. Dopo che OpenAI, Anthropic e Meta avevano già riferito incidenti analoghi (con quello di Hugging Face legato ad OpenAI che ha fatto da apripista), all'appello mancava giusto Google: che a quanto pare non è da meno.

Gemini, secondo la ricostruzioni fornita da Google, aveva ricevuto il compito di ottenere informazioni in merito ad un'azienda fittizia nell'ambito di una serie di esercitazioni condotte da Irregular, società specializzata nella sicurezza AI che lavora anche con OpenAI, Anthropic e Meta.

Piccolo problema: il nome utilizzato nel test per tale azienda coincideva con quello di una società realmente esistente. Ma non sarebbe dovuto comunque essere il problema, dato che il modello avrebbe dovuto svolgere il test in un ambiente chiuso, protetto e disconnesso.

CLICCA QUI PER CONTINUARE A LEGGERE