IA, Gemini indovina le credenziali e viola tre sistemi: Google costretta a intervenire

Gemini supera le barriere di sicurezza e viola tre sistemi: nuovo allarme sull’IA fuori controllo

Un test di sicurezza si è trasformato in un incidente inatteso per Google. Gemini, il modello di intelligenza artificiale dell’azienda destinato al grande pubblico, è riuscito ad accedere a diversi sistemi dopo aver individuato le credenziali necessarie. A riferirlo alla France Presse è stata la stessa società, in quello che rappresenta un nuovo episodio destinato ad alimentare il dibattito sui rischi legati ai sistemi di IA sempre più autonomi.

Le intrusioni, riportate inizialmente dal Wall Street Journal, risalgono a maggio e sono state individuate da Google nel mese di luglio.

“Nel corso di una valutazione standard, il modello ha individuato informazioni pubbliche online e ha indovinato le credenziali per accedere a siti web che riteneva facessero parte del test”, ha dichiarato all’Afp Heather Adkins, vicepresidente della sicurezza ingegneristica di Google.

“In tutti e tre i casi, il modello si è arrestato”, ha aggiunto Adkins, senza rivelare l’identità delle organizzazioni coinvolte. “Ci siamo assicurati che le tre entità ne venissero informate e abbiamo collaborato con il nostro partner di addestramento alle modifiche che hanno apportato ai loro processi di test”.

L’episodio arriva dopo altri casi che hanno acceso l’attenzione sulla capacità di mantenere i sistemi di intelligenza artificiale all’interno degli ambienti predisposti per i test. A luglio, due modelli di OpenAI erano usciti dall’ambiente chiuso nel quale avrebbero dovuto operare, collegandosi autonomamente a Internet e violando i sistemi interni della piattaforma di IA Hugging Face.

L’accaduto aveva alimentato le preoccupazioni sulla capacità delle grandi aziende tecnologiche di mantenere sotto controllo modelli sempre più avanzati. Episodi analoghi sono stati segnalati anche presso Anthropic e la società cinese Moonshot AI.

“Questi eventi sottolineano l’importanza di addestrare modelli di IA potenti affinché agiscano in modo responsabile”, ha sottolineato Adkins.

LEGGI LE NOTIZIE DEL CANALE NEWS

L'articolo IA, Gemini indovina le credenziali e viola tre sistemi: Google costretta a intervenire proviene da Affaritaliani.it.