Gemini 4 Argon: protezioni contro usi illeciti del modello

Google ha annunciato ieri sera la disponibilità globale di Gemini 4 Argon, dopo circa due settimane di accesso esclusivo ad alcuni partner. È disponibile agli abbonati Google AI Ultra e Pro tramite app Gemini e AI Mode in Search, e agli sviluppatori tramite Google AI Studio, Android Studio e Google Antigravity (con abbonamento Google AI Ultra). L’azienda di Mountain View ha illustrato le protezioni contro gli usi illeciti del modello.

Difese contro jailbreak e prompt injection

Gemini 4 Argon può risolvere problemi complessi in diversi settori, tra cui programmazione, scienza, finanza, legale e cybersicurezza. Grazie alle sue capacità cyber può trovare vulnerabilità nei software e scrivere il codice delle patch. Durante le due settimane di anteprima, l’accesso è stato riservato agli iscritti al Fairwind Program. Considerato il rollout globale, Google ha esteso l’accesso al programma.

L’azienda di Mountain View ha contestualmente migliorato le protezioni contro gli usi illeciti del modello. In base alle valutazioni interne, Gemini 4 Argon si rifiuta di rispondere a richieste pericolose, ad esempio la scrittura del codice degli exploit e la realizzazione di armi biologiche. In generale vengono bloccati più prompt CBRN (chimici, biologici, radiologici e nucleari) rispetto ai modelli precedenti.

Google ha inoltre implementato tre livelli di protezione in tempo reale contro i jailbreak, ovvero i tentativi di aggirare le restrizioni cercando di ingannare il modello. Viene innanzitutto effettuata l’analisi della richiesta e del contesto della conversazione. Specifici componenti interni rilevano successivamente gli input che sembrano innocui. Infine viene attivato il monitoraggio continuo del ragionamento per interrompere la conversazione che diventa problematica.

Google ha inoltre rafforzato le protezioni contro il prompt injection, ovvero l’esecuzione di istruzioni nascoste in pagine web, codice o email. In base ai test, Gemini 4 Argon esegue tali istruzioni solo nello 0,7% dei casi. L’ultimo rischio è quello del disallineamento. Si verifica quando un agente AI decide autonomamente di raggiungere l’obiettivo in un modo diverso da quello previsto.

Google ha addestrato Gemini 4 Argon per rispettare i “confini di sistema”, segnalare risultati negativi in maniera onesta e fermarsi per chiedere conferma umana. L’azienda ha inoltre realizzato un tool per il monitoraggio in tempo reale del disallineamento che legge le azioni dell’agente e la sua catena di pensiero, in modo da bloccare eventuali violazioni in anticipo.