Anthropic: proposta per rischi catastrofici dei modelli AI

Anthropic ha pubblicato un Advanced AI Framework con suggerimenti su come i governi dovrebbero affrontare i rischi catastrofici derivanti dai modelli AI più potenti. Secondo il CEO Dario Amodei dovrebbe esserci una valutazione obbligatoria (come aveva consigliato anche OpenAI). Economic Policy Framework è invece la proposta relativa all’impatto dell’AI sul mondo del lavoro.

Advanced AI Framework

Claude Mythos può scoprire migliaia di vulnerabilità nei software e scrivere il codice degli exploit (Claude Fable 5 è la versione con maggiori restrizioni). Simili modelli AI potrebbero rappresentare un pericolo se finissero nelle mani sbagliate. Anthropic ritiene che i governi dovrebbero introdurre leggi con specifici obblighi per gli sviluppatori e sanzioni in caso di violazioni, incluso il blocco della distribuzione o il ritiro dei modelli già sul mercato.

I rischi che l’azienda californiana considera catastrofici sono: biologici, cyber, perdita di controllo, ricerca e sviluppo automatizzati. I sistemi AI più potenti rilasciati senza protezioni potrebbero essere utilizzati per sviluppare armi biologiche ed eseguire attacchi informatici contro infrastrutture critiche. Ci sono inoltre i pericoli associati a eventuali decisioni autonome dei sistemi AI e allo sviluppo automatizzato che potrebbe amplificare gli altri rischi.

Gli sviluppatori dovrebbero quindi effettuare una valutazione dei rischi e pubblicare i risultati per una maggiore trasparenza. Queste valutazioni dovrebbero essere esaminate da aziende indipendenti. Anthropic consiglia inoltre di stabilire obblighi per la sicurezza durante lo sviluppo dei modelli per evitare attacchi informatici.

Dovrebbero infine essere istituite agenzie governative che vigilino sul rispetto degli obblighi e, se necessario, impongano rimedi per eliminare i rischi catastrofici. In caso di violazioni si potrebbero infliggere varie sanzioni fino al ban dei modelli AI.

Economic Policy Framework

L’intelligenza artificiale viene sempre più utilizzata in diversi settori, in quanto velocizza i progressi scientifici e incrementa la produttività. Avrà quindi un enorme impatto sul mondo del lavoro. Molte attività umane verranno inevitabilmente eseguite dall’AI.

Anthropic ha proposto alcune soluzioni considerando tre diversi scenari in base al livello di disoccupazione, tra cui supporto economico per le famiglie, incentivi per le aziende e distribuzione dei profitti delle aziende AI ai cittadini (una simile opzione è stata ipotizzata da Donald Trump).