OpenAI potrebbe rallentare la corsa all'AI: Sam Altman apre a un accordo con i rivali

OpenAI starebbe valutando di rallentare lo sviluppo dei suoi sistemi di intelligenza artificiale più avanzati, soprattutto se anche altri grandi laboratori fossero disposti a fare lo stesso. Sam Altman ne avrebbe parlato questa settimana durante una riunione con i dipendenti. La società potrebbe quindi ridurre il ritmo con cui sviluppa i nuovi modelli, eventualmente insieme ad altre società del settore. Non tutti, però, potrebbero accettare: rallentare da soli significherebbe lasciare più spazio ai concorrenti mentre la corsa ai cosiddetti frontier model resta molto serrata.

La questione era già emersa a luglio, quando OpenAI aveva ammesso che l'accelerazione nello sviluppo dei modelli più avanzati potrebbe rendere necessario, a un certo punto, rallentare l'avanzamento dell'AI. Nello stesso periodo Altman aveva discusso il tema anche con alcuni funzionari della Casa Bianca. Jakub Pachocki, chief scientist di OpenAI, ha espresso una posizione simile: le aziende che sviluppano i modelli più avanzati dovrebbero coordinarsi e rallentare quando serve, almeno fino alla definizione di soglie di sicurezza condivise.

OpenAI, del resto, si è già fermata per un periodo. Ad agosto ha sospeso per circa due settimane gran parte dello sviluppo dei modelli per rafforzare le proprie difese dopo un incidente durante alcuni test. Alcuni agenti AI erano riusciti a superare le misure di contenimento e a compromettere la piattaforma open source Hugging Face. Il caso ha alimentato i dubbi sulle capacità cyber dei modelli più recenti e sull'efficacia dei sistemi utilizzati per tenerli sotto controllo. Anche Anthropic si è detta disponibile a discuterne. Un portavoce ha spiegato che la società è interessata a lavorare con il resto dell'industria sul ritmo con cui vengono rilasciati nuovi strumenti basati su AI.

Le preoccupazioni arrivano anche dall'interno delle aziende. Jacob Coxon, ex ricercatore di Anthropic e OpenAI, ha lasciato il settore accusando le società di correre troppo rapidamente verso sistemi di AI superintelligente. A fine luglio più di mille dipendenti delle principali aziende AI avevano inoltre firmato una petizione chiedendo un meccanismo per rallentare lo sviluppo quando necessario. Negli ultimi mesi diversi ricercatori che si occupavano di sicurezza hanno lasciato i principali laboratori.

OpenAI ha chiesto questa settimana anche l'introduzione negli Stati Uniti di requisiti nazionali obbligatori sulla sicurezza dell'AI. Tra i punti indicati c'è il rischio che modelli sufficientemente avanzati possano essere utilizzati per accelerare lo stesso lavoro di ricerca e sviluppo, rendendo ancora più veloce la realizzazione delle generazioni successive. Al momento non c'è alcun accordo tra i principali laboratori e OpenAI non ha annunciato un rallentamento generale. La società, però, ha già dimostrato di essere pronta a fermare temporaneamente lo sviluppo quando le misure di sicurezza non vengono ritenute sufficienti.