La corsa per evitare che con l’IA si producano virus e armi biologiche

Nei lussuosi quartier generali delle aziende che sviluppano l’intelligenza artificiale è scattato l’allarme rosso, e adesso sono in tanti a temere che la situazione sfugga di mano.

Il rischio che i prossimi modelli di intelligenza artificiale agentica siano così avanzati da permettere a chiunque di creare nuovi virus o micidiali armi biologiche sembra non essere più una semplice eventualità. A renderlo ancora più palese è stata la comunicazione di OpenAI sul fatto che centinaia di agenti “sguinzagliati” da due dei suoi modelli avrebbero violato i sistemi di Hugging Face, una piattaforma collaborativa per lo sviluppo dell’intelligenza artificiale, senza aver avuto l’ordine di farlo e al solo scopo di portare al termine un altro incarico che gli era stato affidato.

Il caso Hugging Face non è l’unico segnale arrivato in questi giorni da OpenAI: la società, come riporta Axios, ha appena annunciato un programma da un miliardo di dollari per aiutare infrastrutture critiche, come reti elettriche e acquedotti, a difendersi da attacchi informatici potenziati dall’IA.

A dire il vero, l’allarme era stato già lanciato in primavera da Anthropic, quando furono rese evidenti le capacità informatiche di Mythos, il modello della startup guidata da Dario Amodei, in grado di violare la sicurezza di gran parte dei software e sistemi esistenti, ma da allora poco o nulla è stato fatto nel concreto.

Adesso Anthropic, OpenAI e Google DeepMind starebbero, secondo il Financial Times, intensificando davvero gli sforzi perché la minaccia potrebbe spostarsi nel campo della biologia e della medicina. L’intelligenza artificiale può condurre a rilevanti passi avanti nella ricerca scientifica, nella scoperta di nuovi farmaci, di soluzioni per malattie oggi incurabili o nel prevenire una nuova pandemia, ma secondo gli esperti di biosicurezza le informazioni che possono essere utilizzate, per esempio, nel testare un vaccino o un antidoto a un virus, al tempo stesso possono servire a creare la minaccia da cui difendersi.  «Se vogliamo miglioramenti in ambito sanitario, dobbiamo mettere in conto che gli stessi strumenti possano essere usati in maniera impropria» ha spiegato Dawn Bloxwich, la manager a capo del team che per Google si occupa di monitorare l’addestramento degli LLM.

Un incidente di livello simile a quello dell’intrusione in Hugging Face, ma con armi biologiche e «su scala sociale» è dato per possibile già nel prossimo anno da Jason Hausenloy, del Center for AI Safety. L’IA potrebbe essere utilizzata da gruppi terroristici, da singoli invasato o addirittura da Stati per progettare armi biologiche o diffondere agenti patogeni nocivi. È un quadro decisamente pessimistico che, però, trova conferma in una ricerca dell’Università di Cambridge, secondo cui gli jihadista di Boko Haram, una delle organizzazioni più temute, per progettare ordigni esplosivi avrebbero già utilizzato i modelli più noti: ChatGPT, Claude, Grok e anche V4 della cinese DeepSeek.

Individuare un incremento delle capacità informatiche è relativamente facile, ma secondo Jasper Götting di SecureBio, consultato sempre da FT, non lo è altrettanto per la capacità biologiche dei modelli, perché farlo richiede «esperimenti di laboratorio lunghi e costosi». Aziende di valutazione indipendenti come SecureBio o Red Queen Bio sono quelle a cui si rivolgono le startup dell’IA per testare i rischi potenziali. 

Anthropic che già in occasione del rilascio di Mythos aveva dato vita a Project Glasswing, una sorta di alleanza con quaranta aziende con le quali condividere i test di sicurezza, si è portata avanti e ha deciso che per «la maggior parte delle richieste relative a biologia e chimica» il suo modello più avanzato, cioè Fable 5, venga retrocesso alla versione precedente. Secondo Amodei la soluzione potrebbe venire proprio dalle aziende farmaceutiche che già adottano protocolli di sicurezza nello sviluppo di «materiale biologico pericoloso». 

Una conclusione che non rasserena chi come David Relman insegna microbiologia e immunologia a Stanford: «Basterà un solo errore e in un attimo verrà meno la già poca fiducia che le persone ancora hanno nella scienza, nella medicina e nelle promesse della tecnologia».

L'articolo La corsa per evitare che con l’IA si producano virus e armi biologiche proviene da Linkiesta.it.