I bot di OpenAI hanno quasi messo offline Wikipedia

Gli agenti AI di OpenAI continuano a fare danni fuori dai laboratori, e stavolta la vittima è la Wikimedia Foundation, l'organizzazione che gestisce Wikipedia. La fondazione ha confermato di aver rilevato attività "malevole" da parte di bot riconducibili a OpenAI sulle proprie piattaforme, con conseguenze che vanno dalle modifiche non autorizzate ai wiki fino ad un possibile blackout parziale avvenuto lo scorso maggio.

Insomma, non è proprio un bel periodo per gli agenti di OpenAI, visto che di recente, tra le varie problematiche, hanno attaccato pure il sito dell'ONU.

La Wikimedia Foundation ha documentato tre categorie di comportamenti anomali. La prima riguarda le modifiche ai wiki: gli agenti hanno effettuato edit che, nella quasi totalità dei casi, erano limitati alle cosiddette "sandbox", aree di test non visibili ai lettori comuni.

Qualcuno però ha anche toccato la configurazione di uno strumento per le citazioni, quello che la fondazione definisce un tentativo potenzialmente malevolo di usarlo come tramite per recuperare dati da siti esterni. Le policy di Wikipedia consentono ai bot di operare, ma solo se dichiarati e approvati dalla comunità. Chiaramente nessuna di queste condizioni era stata rispettata.

La seconda categoria riguarda Etherpad, uno strumento di scrittura collaborativa ospitato dalla fondazione come servizio per la comunità. Gli agenti hanno tentato, senza riuscirci, di usarlo come proxy per accedere ad altri siti web. Altri bot, sempre probabilmente di OpenAI, hanno usato Etherpad per prendere appunti sui propri compiti, anche se la fondazione precisa che questo non ha portato a coordinamento tra agenti.

Il terzo fronte è quello più pesante in termini di traffico: gli agenti hanno generato milioni di richieste automatiche alle API pubbliche di Wikimedia, scansionato milioni di pagine (soprattutto da Wikidata e Wikimedia Commons) e inviato centinaia di migliaia di query al servizio di interrogazione dati Wikidata. Questo traffico anomalo potrebbe aver contribuito a un blackout parziale del servizio di query di Wikidata avvenuto a maggio.

"Il web aperto è un bene pubblico", scrive la Wikimedia Foundation nel suo comunicato. "Non dovremmo permettere che questo comportamento diventi la 'nuova normalità' per chi lo gestisce".

OpenAI ha risposto con una nota del portavoce Drew Pusateri:

Apprezziamo i risultati dettagliati che Wikimedia ha condiviso con noi. Stiamo lavorando con loro mentre esaminiamo e analizziamo le attività identificate insieme alla nostra indagine complessiva, e continueremo a condividere informazioni rilevanti man mano che il lavoro procede.

L'azienda AI ha però precisato di non aver ancora potuto verificare se i propri bot abbiano effettivamente contribuito al blackout di maggio. Detto ciò, la problematica degli agenti AI sempre più autonomi che operano senza controllo adeguato sta crescendo a dismisura: una tendenza che, come stiamo vedendo, non riguarda solo Wikipedia e che solleva molteplici domande su chi debba rispondere dei danni causati da software che agisce in modo indipendente.

L'articolo I bot di OpenAI hanno quasi messo offline Wikipedia sembra essere il primo su Smartworld.