Demis Hassabis propone il controllo preliminare dei modelli AI

Dopo Dario Amodei (CEO di Anthropic) e Sam Altman (CEO di OpenAI), anche Demis Hassabis (CEO di Google DeepMind) ha evidenziato la necessità di controllare i modelli AI prima del rilascio pubblico. Questo compito dovrebbe essere assegnato ad un’istituzione guidata dagli Stati Uniti, seguendo precisi standard relativi alla sicurezza.

Soluzione proposta dal premio Nobel per evitare rischi

All’inizio di giugno, Donald Trump ha firmato un ordine esecutivo che stabilisce il controllo dei modelli AI prima dell’accesso pubblico. Lo scopo è verificare la presenza di adeguate protezioni per impedire abusi da parte di paesi stranieri, ad esempio trovare vulnerabilità nei software da sfruttare durante gli attacchi informatici contro le infrastrutture critiche degli Stati Uniti. È lo stesso motivo per cui è stato bloccato il rilascio dei nuovi modelli di Anthropic e OpenAI.

Tale controllo è volontario e soprattutto viene effettuato senza seguire uno standard preciso. Secondo Demis Hassabis (CEO di Google DeepMind e premio Nobel 2024 per la Chimica) dovrebbe essere creata un’agenzia indipendente, simile alla Financial Industry Regulatory Authority, che stabilisca protocolli di valutazione dei modelli ed effettui test di sicurezza in collaborazione con i laboratori nazionali statunitensi e le appropriate agenzie federali.

L’agenzia dovrebbe anche stabilire soglie per classificare i modelli AI più avanzati sulla base di benchmark di riferimento. I provider dovrebbero quindi sottoporre i nuovi modelli alla valutazione (volontaria) almeno 30 giorni prima del rilascio pubblico. La valutazione dovrebbe coprire principalmente le capacità cyber e l’efficacia delle protezioni contro i jailbreak.

Hassabis sottolinea che gli Stati Uniti “sono ben posizionati“, considerate le competenze tecniche, quindi dovrebbero compiere il primo passo nello sviluppo di un quadro di riferimento di questo tipo. Quasi certamente, l’Unione europea non sarà d’accordo, visto che cerca di ridurre la dipendenza dalle aziende statunitensi. Mustafa Suleyman (CEO di Microsoft AI) appoggia la proposta del CEO di Google DeepMind, evidenziando l’urgenza di implementare misure adeguate prima dell’arrivo dell’AGI (intelligenza artificiale generale).