Commissione europea avvia indagine su Anthropic e OpenAI

La Commissione europea ha avviato un’indagine nei confronti di Anthropic e OpenAI per verificare il rispetto dell’AI Act. L’AI Office ha inviato alle due aziende una richiesta di informazioni sugli incidenti causati dai rispettivi agenti AI. L’ufficio verrà supportato dal gruppo di esperti scientifici, del quale fanno parte Yoshua Bengio (uno dei padrini dell’AI) e tre italiani.

Dubbi sull’applicabilità ai modelli AI in test

Henna Virkkunen, commissaria europea per le tecnologie digitali, ha convocato un meeting del gruppo di esperti lo scorso 9 ottobre. Durante il suo discorso ha citato gli incidenti causati dalla perdita di controllo degli agenti AI da parte di OpenAI, Anthropic, Google DeepMind, Meta e organizzazioni indipendenti che valutano i modelli.

Questi agenti hanno attaccato Hugging Face, varie aziende e siti europei, australiani e statunitensi. All’International AI Summit di Dublino, la commissaria ha confermato l’avvio di un’indagine nei confronti di Anthropic e OpenAI. Seguendo i consigli del gruppo di esperti, l’AI Office ha inviato richieste di informazioni riguardanti sicurezza, valutazione esterna e monitoraggio delle modalità di utilizzo dei modelli.

Le due aziende californiana hanno sottoscritto il codice di condotta per i modelli AI ad uso generale, quindi si impegnano a rispettare gli obblighi dell’AI Act, tra cui la mitigazione dei rischi, la segnalazione degli incidenti di sicurezza e l’adozione di misure correttive.

Secondo alcuni esperti legali, l’AI Act non si applica ai modelli ancora in test, ma solo a quelli già sul mercato. Un funzionario della Commissione europea ha fornito un chiarimento:

Non applicheremo le norme durante la fase di test. Tuttavia, se il modello di intelligenza artificiale dovesse uscire dall’ambiente di test e avere un impatto sul mercato dell’UE – come è accaduto nel caso di Hugging Face – allora l’AI Act diventerà applicabile.

Questa ampia interpretazione dell’AI Act potrebbe innescare i primi scontri legali tra la Commissione e le aziende interessate.