Microsoft: modelli AI possono creare armi biologiche

L’intelligenza artificiale viene utilizzata in biologia per creare nuove proteine da sequenze di aminoacidi. Gli scienziati di Microsoft hanno però scoperto una grave vulnerabilità nei tool AIPD (AI Protein Design) che potrebbe essere sfruttata per creare tossine o patogeni mortali. L’azienda di Redmond ha sviluppato una “patch” distribuita a tutte le aziende che effettuano la sintesi del DNA.

Armi biologiche con tool open source

I tool AIPD open source possono avere un doppio uso, ovvero generare strutture di proteine per nuove terapie o cure e migliaia di versioni sintetiche di una tossina alterando la sequenza di aminoacidi, senza cambiare la struttura. La vulnerabilità zero-day scoperta dagli scienziati di Microsoft è presente nei software usati per lo screening di biosicurezza.

Quando viene creata una nuova proteina, i ricercatori devono ordinare una sequenza di DNA da un fornitore commerciale. Questi fornitori utilizzano software di screening per confrontare gli ordini in arrivo con tossine o agenti patogeni noti. Una corrispondenza farà scattare un allarme.

Gli scienziati di Microsoft hanno usato un tool AIPD per generare oltre 75.000 varianti di proteine. Alcune erano tossine, ma non sono state rilevate dai software di screening. L’azienda di Redmond ha inviato una segnalazione al governo statunitense e distribuito la patch alle aziende che sviluppano i software.

La soluzione non è tuttavia efficace al 100%, in quanto una piccola percentuale di tossine non vengono ancora rilevate. I ricercatori non hanno rivelato le proteine tossiche, ma alcune sono già note, come la ricina.

La sintesi del DNA viene effettuata da poche aziende negli Stati Uniti e quasi tutte lavorano con il governo. La tecnologia usata per l’addestramento dei modelli è disponibile ad un numero maggiore di aziende. I software di screening dovrebbero essere integrati direttamente nei sistemi AI.