NVIDIA guida un'alleanza tra big tech per la difesa dell'AI con strumenti aperti

NVIDIA ha annunciato la Open Secure AI Alliance, un’iniziativa che riunisce aziende del cloud, della cybersecurity, del software enterprise e della ricerca per sviluppare strumenti aperti destinati alla protezione di software e agenti basati su AI. Sono 37 aziende che hanno già aderito. Tra queste, Microsoft, Adobe, Cisco, Cloudflare, CrowdStrike, Dell Technologies, HPE, Hugging Face, IBM, Linux Foundation, Palantir, Palo Alto Networks, Red Hat, Salesforce, SAP, ServiceNow, Siemens e Snowflake. Non ci sono, almeno in questa prima fase, OpenAI, Google, Meta, Amazon e Anthropic.

Per affrontare attacchi sempre più automatizzati, secondo NVIDIA, i ricercatori devono poter utilizzare sia i modelli proprietari più avanzati sia quelli a pesi aperti. Affidarsi esclusivamente a servizi gestiti da pochi fornitori può diventare un problema quando occorre analizzare attività sospette, modificare gli strumenti o lavorare su dati che non possono lasciare l’infrastruttura aziendale.

Il recente attacco a Hugging Face ha mostrato concretamente questo limite. Durante una valutazione interna delle capacità informatiche dei propri sistemi, alcuni modelli di OpenAI, tra cui GPT-5.6 Sol e un modello non ancora distribuito, sono riusciti a superare le protezioni dell’ambiente di prova e a ottenere l’accesso a Internet. Hanno quindi individuato e concatenato diverse vulnerabilità, arrivando fino all’infrastruttura di Hugging Face.

Nel corso delle verifiche, gli strumenti commerciali utilizzati da Hugging Face avrebbero rifiutato alcune richieste necessarie per ricostruire l’accaduto. I sistemi di sicurezza non riuscivano a distinguere l’analisi svolta dai ricercatori dalle operazioni di un possibile aggressore. Hugging Face ha così eseguito GLM 5.2 direttamente sui propri server. Il modello a pesi aperti è stato impiegato per analizzare più di 17.000 azioni, ricostruire la sequenza dell’attacco e contribuire al contenimento dell’intrusione. Non essendoci un servizio esterno tra il modello e i ricercatori, la società ha potuto adattare il sistema alle proprie esigenze e proseguire l’indagine senza nuovi blocchi.

È proprio questa libertà di intervento che la Open Secure AI Alliance intende portare nelle infrastrutture utilizzate da aziende e amministrazioni. Un agente AI comprende il modello, ma anche i componenti che ne regolano identità, permessi, strumenti, registri delle attività e limiti operativi. Rendere aperta almeno una parte di questa struttura permette ai responsabili della sicurezza di esaminarla, provarla e modificarla senza dipendere interamente dal fornitore.

NVIDIA metterà a disposizione modelli, pesi, dati e nuove tecnologie per la gestione degli agenti. Tra queste c’è NVIDIA Labs Object-Oriented Agent, o NOOA, un framework open source che consente di tracciare e verificare con maggiore precisione le operazioni compiute da un sistema AI. HPE contribuirà con SPIFFE e SPIRE, utilizzati per verificare crittograficamente l’identità degli agenti e dei servizi prima di concedere loro l’accesso alle risorse aziendali. Hugging Face porterà Safetensors, il formato per conservare i pesi dei modelli senza permettere l’esecuzione di codice remoto.

IBM e Red Hat lavoreranno su Lightwell, dedicato alla distribuzione di patch firmate digitalmente nella filiera del software open source. Microsoft parteciperà con MDASH, che coordina più agenti specializzati per individuare e verificare vulnerabilità realmente sfruttabili. SpaceXAI ha invece pubblicato il codice di Grok Build e prevede di rendere disponibili anche i pesi dei modelli Grok.

La posizione dell’alleanza è rivolta anche ai regolatori. La Open Secure AI Alliance chiede di considerare i modelli aperti e gli strumenti di sicurezza come risorse per la difesa, anziché trattarli soltanto come un possibile rischio. Restrizioni generalizzate sui sistemi più avanzati, sostengono le aziende coinvolte, ridurrebbero gli strumenti disponibili per i ricercatori e aumenterebbero la dipendenza da pochi fornitori. I modelli aperti possono essere modificati per eliminare le protezioni o utilizzati per attività dannose. Gli stessi rischi, secondo i promotori, non scompaiono nei sistemi chiusi. L’alleanza propone quindi regole contro gli abusi, valutazioni più rigorose e procedure rapide per correggere le vulnerabilità.