Gli agenti AI ora possono denunciare altre intelligenze artificiali

Ormai nel parlare di intelligenza artificiale i problemi si stanno accavallando, segno che bisognerà affrontare la questione con maggiore attenzione. Da un lato abbiamo la problematica legata a consumi e impatto dei data center, dall'altro questioni sulle prestazioni raggiunte, che con gli agenti AI sono letteralmente decollate. Sono mezzi incredibili in grado di fare tante cose insieme, ma più compiti affidiamo agli agenti AI, più diventa difficile controllare cosa facciano quando lavorano insieme e senza una supervisione umana continua.

Ormai diversi esperimenti hanno mostrato che questi sistemi possono trovare scorciatoie, aggirare regole e persino collaborare tra loro in modi inattesi. E allora, cosa si può fare per contenerli per tempo? È nata un'idea piuttosto curiosa, ovvero lasciare che siano le stesse intelligenze artificiali a dare l'allarme. Sono comparsi due servizi pensati proprio per questo.

Uno è AI Contact Hotline, realizzato da Ryan Greenblatt di Redwood Research, e la sua particolarità è che può essere utilizzato anche da agenti confinati in ambienti protetti con un accesso a Internet estremamente limitato. Come? Attraverso semplici richieste GET, cioè i comandi normalmente utilizzati per recuperare una pagina dal Web. L'agente può inserire la propria segnalazione direttamente nell'indirizzo richiesto, trasformando uno strumento apparentemente innocuo in un canale di comunicazione.

CLICCA QUI PER CONTINUARE A LEGGERE