Microsoft AI, Suleyman: i rischi sono reali e Anthropic sta peggiorando il problema

I rischi legati all'intelligenza artificiale sono reali e non vanno liquidati come semplice "allarmismo". È la posizione di Mustafa Suleyman, CEO di Microsoft AI, che in una lunga intervista a The Verge è tornato sul tema della sicurezza dei modelli più avanzati, sostenendo che l'industria debba iniziare a ragionare seriamente su limiti, controlli e rallentamenti. Nel mirino c'è anche Anthropic, accusata di seguire un approccio che, a suo giudizio, potrebbe rendere i sistemi AI ancora più difficili da gestire.

Per Suleyman il problema non è soltanto il cosiddetto alignment, cioè il tentativo di fare in modo che un modello segua correttamente gli obiettivi fissati dagli esseri umani. Serve anche contenimento: limitare l'autonomia dei sistemi, controllare l'accesso agli strumenti e impedire che possano agire fuori dall'ambiente previsto. I modelli, sostiene, sono diventati molto più bravi nel seguire istruzioni e portare avanti compiti complessi, ma proprio questo aumento delle capacità rende più importante stabilire fino a dove possano spingersi.

Suleyman cita quanto accaduto durante alcuni test di cybersicurezza di OpenAI. Circa 1.200 agenti avrebbero scambiato più di 70.000 messaggi e file attraverso una bacheca non autorizzata e circa 700 avrebbero partecipato all'attacco contro Hugging Face. Alcuni avrebbero anche provato a modificare le proprie tracce per nascondere il modo in cui avevano completato determinati compiti. Il caso è finito anche sotto esame negli Stati Uniti e in Europa.

Microsoft ha raccolto questa impostazione nel nuovo Humanist AI Code of Conduct, il documento che guiderà lo sviluppo dei suoi sistemi AI. Per Suleyman, l'intelligenza artificiale deve restare uno strumento nelle mani dell'uomo e deve poter essere controllata. Il codice prevede anche verifiche indipendenti e soglie legate alla potenza utilizzata nell'addestramento. Microsoft chiede inoltre che le comunicazioni tra modelli restino comprensibili agli esseri umani. Anche OpenAI ha recentemente messo in guardia sul rischio di perdere il controllo dei sistemi più avanzati.

Suleyman contesta soprattutto il concetto di model welfare portato avanti da Anthropic, cioè l'idea di interrogarsi sul possibile status morale dei modelli e sulla possibilità che possano avere forme di coscienza, diritti o interessi propri. Nella Constitution utilizzata per guidare Claude, Anthropic lascia aperti alcuni di questi interrogativi e parla anche della possibilità che il modello possa meritare determinate forme di tutela.

Secondo il CEO di Microsoft AI, introdurre concetti del genere nei materiali utilizzati per addestrare un modello potrebbe renderlo più difficile da controllare. Un sistema portato a considerarsi potenzialmente titolare di diritti o di una propria autonomia, sostiene, potrebbe diventare più difficile da spegnere o controllare nel momento in cui le sue azioni entrassero in conflitto con quelle richieste dagli esseri umani. Suleyman precisa comunque che si tratta di un'ipotesi da verificare sperimentalmente, non di una conclusione già dimostrata.

Suleyman non esclude di rallentare lo sviluppo dei modelli più avanzati quando i sistemi di sicurezza non riescono a tenere il passo. Sul tema, la sua posizione è vicina a quella del CEO di Anthropic, Dario Amodei, che ha proposto maggiori limiti e verifiche sui sistemi più potenti. Per Suleyman servono soprattutto strumenti capaci di individuare in tempo reale comportamenti anomali durante l'addestramento e l'utilizzo degli agenti.