Claude Mythos ha trovato vulnerabilità nei sistemi della NSA

La NSA (National Security Agency) è una delle agenzie governative statunitensi che partecipano al Project Glasswing di Anthropic. Secondo le fonti di Associated Press, il modello Claude Mythos Preview ha trovato diverse vulnerabilità nei sistemi informatici classificati. La NSA ha tuttavia perso l’accesso a Claude Mythos 5 in seguito al ban imposto dal governo statunitense.

Claude Mythos ha “hackerato” la NSA?

Come è noto (Edward Snowden docet), la NSA utilizza vari tool per attacchi informatici e sorveglianza. Ovviamente è anche un bersaglio delle agenzie di intelligence straniere, quindi ha chiesto di testare Claude Mythos Preview per trovare eventuali vulnerabilità software nei suoi sistemi che potrebbero essere sfruttate dai nemici storici degli Stati Uniti.

Secondo le fonti di Associated Press, il modello di Anthropic ha identificato diversi bug nei sistemi classificati dell’agenzia in poche ore. La conferma è arrivata da un senatore democratico che ha ricevuto l’informazione dal direttore della NSA. Sono quindi iniziate a circolare voci sulle capacità del modello di “hackerare” la NSA. In realtà era un test effettuato in un ambiente simulato e isolato da Internet.

Il Dipartimento del Commercio ha emesso un ordine per impedire l’uso di Claude Mythos 5 e Fable 5, dopo aver ricevuto la segnalazione di un presunto jailbreak (aggiramento delle restrizioni). La NSA aveva ovviamente accesso a Claude Mythos 5, versione aggiornata di Mythos Preview. In seguito al ban, Anthropic ha sospeso l’accesso a tutti, quindi anche alla NSA.

L’amministrazione Trump vuole effettuare un controllo preventivo dei modelli più potenti prima del lancio pubblico. Le aziende non sono obbligate, ma Anthropic, OpenAI, Google, Microsoft e xAI hanno già accettato volontariamente il controllo da parte del CAISI (Center for AI Standards and Innovation).

Il governo avrebbe chiesto a Meta di seguire l’esempio delle altre aziende per consentire la verifica preliminare di Muse Spark, il modello più recente che offre prestazioni molto vicine a quelle dei concorrenti. Un portavoce ha dichiarato che Meta valuterà la richiesta.