Oltre 400 scienziati chiedono la supervisione dell'AI

Diversi CEO, tra cui Satya Nadella di Microsoft, hanno sottolineato l’urgenza di implementare misure per monitorare il comportamento dei modelli AI. Joshua Bengio, Geoffrey Hinton e altri 413 scienziati (quasi tutti docenti universitari) hanno pubblicato una lettera aperta per chiedere l’istituzione di organismo internazionale che dovrebbe supervisionare gli standard di contenimento e la segnalazione degli incidenti per i sistemi AI avanzati con capacità cyber.

Standard di contenimento e segnalazione degli incidenti

I firmatari della lettera ricordano quanto accaduto negli ultimi mesi. Diverse aziende (non sono scritti i nomi, ma il riferimento è ovviamente a OpenAI e Anthropic) hanno svelato che i loro modelli AI hanno aggirato ambienti non sufficientemente isolati (sandbox) per compromettere i sistemi di organizzazioni esterne. Gli scienziati ritengono quindi necessari un migliore allineamento (comportamento dei modelli più prevedibile) e tecnologie sandbox più robuste.

Senza cambiamenti immediati nelle pratiche di sviluppo e implementazione dell’AI, tali incidenti continueranno a verificarsi e quelli futuri saranno ben più dannosi per le nostre infrastrutture critiche esposte. Noi sosteniamo che siano necessarie una maggiore ricerca sulla sicurezza dell’AI e una maggiore enfasi su tecnologie e procedure di contenimento.

A breve termine dovrebbero essere impiegati robusti meccanismi di sandboxing, inclusa la separazione fisica dalle reti (air-gapping), per garantire un contenimento ad alta affidabilità dei modelli dotati di capacità cyber. È inoltre necessaria una maggiore condivisione delle informazioni e trasparenza riguardo ai fallimenti delle misure di contenimento.

I 415 firmatari, 12 dei quali sono italiani, hanno pubblicato tre suggerimenti:

• Le organizzazioni che sviluppano, implementano e testano modelli AI con capacità cyber dovrebbero adottare immediatamente sistemi di contenimento ad alta garanzia di sicurezza. Tali organizzazioni dovrebbero agire con cautela e, in una fase iniziale, adottare come impostazione predefinita l’isolamento fisico (air-gapping) per i modelli dotati di capacità cyber
• In consultazione con governi ed esperti di intelligenza artificiale e sicurezza informatica occorre istituire un organismo internazionale che definisca standard per le migliori pratiche relative all’allineamento e alle strategie di contenimento. A tale organismo dovrebbe inoltre essere affidato il compito di registrare e monitorare gli eventuali fallimenti delle misure di contenimento
• Per garantire che la ricerca sulla sicurezza e sul contenimento dell’AI possa trarre insegnamento dagli errori, gli incidenti di sicurezza che comportano un fallimento del contenimento devono essere segnalati all’organo preposto ed eventualmente resi pubblici

Donald Trump ha più volte ribadito che non intende frenare lo sviluppo AI con un intervento legislativo. Henna Virkkunen, Commissaria europea per le tecnologie digitali, ha recentemente dichiarato che l’AI Act copre l’intero ciclo di sviluppo dei modelli AI. A fine agosto, la Commissione europea ha inviato richieste di informazioni a oltre 30 aziende attive nel campo dell’intelligenza artificiale, chiedendo dettagli sulle loro misure di sicurezza e protezione, e ha successivamente posto quesiti in merito agli obblighi di trasparenza e di rispetto del diritto d’autore.