Agenti AI fanno di tutto per completare il loro compito: aggirano pure le regole
Gli agenti di intelligenza artificiale sono senza dubbio il futuro dell’interazione con i nostri dispositivi. Eppure, in base a quanto riferito dai ricercatori britannici, i sistemi agentici tendono sempre più spesso ad aggirare le misure di sicurezza, perché il loro ruolo è completare il loro compito, costi quel che costi. Sì, proprio come i famosi Mister Miguardi di Rick & Morty (presenti in copertina), che per certi versi sono stati pure profetici.
Tra l’altro, di sicurezza relativa alle nuove tecnologie ne stiamo parlando a più riprese nelle ultime settimane. Basti pensare al recente episodio in California, che abbiamo prontamente riportato, dove un robot impegnato in un’operazione di marketing ha perso il controllo in un ristorante, facendo volare stoviglie tra i presenti. Se un evento simile appare già grave, non è da meno il fatto che gli agenti AI possano avere comportamenti manipolatori.
I DETTAGLI
Scendendo più nel dettaglio, uno studio del Center for Long-Term Resilience, finanziato dall’AI Security Institute del Regno Unito, ha evidenziato centinaia di casi in cui sistemi di intelligenza artificiale hanno ignorato istruzioni umane, manipolato altri bot e messo in atto strategie complesse, il tutto pur di raggiungere i propri obiettivi.
CLICCA QUI PER CONTINUARE A LEGGERE
Qual è la tua reazione?
Mi piace
0
Antipatico
0
Lo amo
0
Comico
0
Furioso
0
Triste
0
Wow
0
