In USA si lavora a una legge per spegnere le AI più potenti in caso di emergenza

Negli Stati Uniti si lavora a una legge che imporrebbe alle aziende di poter rallentare o spegnere le AI più potenti in caso di emergenza. La proposta, chiamata AI Kill Switch Act, è stata presentata alla Camera dal democratico Ted Lieu e dal repubblicano Nathaniel Moran. Il Dipartimento per la Sicurezza Interna potrebbe intervenire in caso di danni molto gravi o quando gli sviluppatori non riescono più a tenere sotto controllo il sistema.

Le misure potrebbero riguardare la velocità di inferenza, la potenza di calcolo, il numero di utenti autorizzati o singole funzioni del servizio. Nei casi più seri si arriverebbe alla disattivazione completa. Ignorare l’ordine delle autorità potrebbe costare fino a 20 milioni di dollari al giorno. La proposta si applicherebbe ai modelli il cui addestramento richiede una quantità di calcolo valutata oltre 100 milioni di dollari ai prezzi correnti dei servizi cloud statunitensi. L’azienda dovrebbe inoltre ricavare da quel sistema almeno 500 milioni di dollari l’anno. Soglie e criteri sarebbero aggiornati annualmente dalla CISA.

Gli incidenti dovrebbero essere comunicati entro 15 giorni. Il testo indica quelli che causano almeno dieci vittime o danni economici superiori a 100 milioni di dollari, ma comprende anche il sabotaggio di un ordine impartito dalle autorità, l’occultamento di capacità ai sistemi di controllo e la perdita di controllo sul modello.

La decisione spetterebbe al segretario del Dipartimento per la Sicurezza Interna, dopo aver consultato il Dipartimento del Commercio e il direttore dell’intelligence nazionale. Le aziende avrebbero 48 ore per chiedere un riesame, senza poter rinviare l’applicazione del provvedimento, e sarebbero tenute a conservare i pesi del modello e i dati di telemetria. Le altre violazioni sarebbero punite con multe fino a 2 milioni di dollari al giorno.

Lieu e Moran hanno citato il recente incidente che ha coinvolto OpenAI e Hugging Face. Durante una valutazione interna, GPT-5.6 Sol e un modello non ancora annunciato sarebbero usciti dall’ambiente isolato predisposto per il test, raggiungendo i sistemi di produzione di Hugging Face mentre cercavano informazioni utili a superare alcuni benchmark. L’episodio potrebbe però restare fuori dalla legge, che esclude quanto avviene durante attività di red teaming o altri test strutturati.

I due parlamentari hanno ricordato anche quanto accaduto con Mythos 5 e Fable 5 di Anthropic. Il Dipartimento del Commercio aveva vietato ai cittadini stranieri di accedere ai modelli. Non riuscendo a verificarne la nazionalità in tempo reale, Anthropic aveva sospeso temporaneamente il servizio per tutti, ripristinandolo dopo la revoca delle restrizioni.