Modelli AI sempre più potenti: rischi per i governi

Le agenzie di cybersicurezza dei paesi Five Eyes hanno pubblicato una comunicazione congiunta per avvisare i governi sui rischi derivanti dalla diffusione di modelli AI sempre più potenti, come Claude Mythos di Anthropic. C’è l’elevata probabilità che vengano utilizzati per eseguire attacchi informatici contro aziende e infrastrutture critiche. È necessario quindi migliorare con urgenza le protezioni.

Si deve agire subito per evitare il disastro

I paesi Five Eyes sono Stati Uniti, Regno Unito, Canada, Australia e Nuova Zelanda. Le rispettive agenzie di cybersicurezza pubblicato una “call to action” per evidenziare i pericoli a breve termine (mesi, non anni) dall’uso dei modelli AI. L’intelligenza artificiale permette di migliorare le difese informatiche, ma allo stesso tempo consente di incrementare velocità, portata e complessità degli attacchi.

Le agenzie invitano quindi i governi a comprendere e valutare rischio, prontezza e responsabilità; dare priorità alle pratiche e ai controlli fondamentali di sicurezza informatica; conferire ai leader della sicurezza informatica autorità e risorse; rimanere attivamente coinvolti man mano che le minacce e le linee guida si evolvono.

Gli attuali modelli, come Claude Mythos, possono trovare vulnerabilità in poche ore e aiutare i cybercriminali nella scrittura degli exploit. L’intervallo di tempo tra individuazione e sfruttamento dei bug diventa sempre più ridotto.

Le agenzie avvertono che non si tratta solo di rischi teorici. I modelli AI potrebbero essere utilizzati per attacchi informatici su larga scala con un impatto devastante sull’economia dei paesi. Devono quindi essere attuate con urgenza queste cinque azioni:

1. Ridurre la superficie di attacco: limitare l’accesso non necessario ai sistemi e la connettività esterna. Valutare se i sistemi debbano effettivamente essere esposti e isolare quelli che non devono essere esposti
2. Accelerare i processi di applicazione delle patch: l’intelligenza artificiale sta riducendo i tempi tra la scoperta e lo sfruttamento delle vulnerabilità. I ​​ritardi nell’applicazione delle patch aumentano il rischio, soprattutto per i sistemi operativi con cicli di aggiornamento lunghi. Assegnare le priorità agli aggiornamenti di sicurezza di conseguenza per gestire i rischi
3. Valutare i sistemi legacy: i sistemi non supportati sono bersagli facili. Non rappresentano solo un debito tecnico, ma una vera e propria passività strategica
4. Rivedere e rafforzare i controlli di identità e accesso: limitare chi può accedere ai sistemi critici. Imporre un’autenticazione forte e rivedere regolarmente le autorizzazioni
5. Prepararsi agli incidenti prima che accadano: testare i piani di risposta, addestrare e preparare i team e presumere che si verificheranno delle violazioni. Concentrarsi sul contenimento e sul ripristino rapidi

Le organizzazioni che integrano strumenti di intelligenza artificiale nelle proprie operazioni di sicurezza devono individuare le vulnerabilità in anticipo, migliorare la qualità del software, monitorare i comportamenti anomali e rispondere più rapidamente agli incidenti, riducendo sia i costi che l’impatto degli stessi.