Un errore dell’AI ha quasi spinto gli USA contro una nave cinese

Se siamo noi a utilizzare un’intelligenza artificiale per fare qualcosa di banale e questa sbaglia una risposta, possiamo tranquillamente accorgercene, correggerla e andare avanti. Ma cosa succede quando quella risposta entra in un rapporto d’intelligence e viene utilizzata per decidere se fermare una nave di un’altra potenza nucleare? Un potenziale incidente.

Un problema di questo genere sarebbe emerso da un episodio avvenuto all’interno delle forze armate statunitensi. Secondo un’inchiesta della CNN, un analista di un comando per le operazioni speciali avrebbe utilizzato un chatbot per esaminare il manifesto di carico di una nave cinese che si trovava in Medio Oriente. Il sistema avrebbe combinato informazioni provenienti da fonti aperte con intelligence classificata, arrivando a una conclusione allarmante, ovvero che a bordo ci sarebbero stati componenti legati a un programma per armi nucleari.

Naturalmente l’informazione era falsa, ma se pensiamo alle potenziali conseguenze, non c'è molto su cui scherzare. E in effetti nel caso in questione la macchina bellica aveva iniziato a muoversi, con le forze statunitensi che stavano già preparando l’intercettazione della nave. Secondo quanto riporta la CNN, alcuni aerei militari erano già in volo mentre personale armato si preparava all’abbordaggio. Solo un controllo successivo effettuato da analisti più esperti avrebbe permesso di individuare quella che viene definita una allucinazione dell’AI, cioè una risposta apparentemente credibile ma priva di un fondamento corretto.

CLICCA QUI PER CONTINUARE A LEGGERE