Allucinazioni AI: rischiato attacco militare degli USA alla Cina

In base alle informazioni ricevute dalla CNN, gli Stati Uniti hanno evitato all’ultimo momento di attaccare una nave cinese che avrebbe quasi certamente dato origine ad uno scontro militare tre le due superpotenze. L’operazione era basata su un falso report di intelligence generato da un chatbot AI. Questa è una chiara dimostrazione delle possibili conseguenze derivanti dall’integrazione dell’AI nei sistemi militari.

Guerra tra Stati Uniti e Cina evitata per poco

Secondo le fonti della CNN, l’esercito statunitense aveva già predisposto i piani per intercettare una nave cinese nel Medio Oriente (non è noto il luogo esatto). I militari erano pronti a salire a bordo della nave con un supporto aereo. L’operazione era stata avviata sulla base di un report di intelligence, secondo il quale la nave cinese trasportava componenti per un programma di armi nucleari.

Solo poco prima dell’operazione programmata, i funzionari hanno esaminato più a fondo il report redatto da un analista dello US Special Operations Command, scoprendo che era stato generato con l’aiuto dell’intelligenza artificiale. Il chatbot AI (non è noto quale) usato dall’analista aveva identificato in modo errato il carico trasportato dalla nave. Si tratta quindi di un classico esempio di allucinazione che, in questo caso, poteva avere conseguenze drammatiche, ovvero l’inizio di una guerra tra Stati Uniti e Cina.

L’analista ha interrogato un chatbot in merito ad alcune informazioni di intelligence sul manifesto di carico della nave. Il chatbot ha integrato informazioni di intelligence provenienti da fonti aperte con dati riservati di intelligence in possesso delle autorità governative, giungendo così ad una conclusione errata riguardo al carico trasportato dalla nave. L’analista ha quindi nuovamente usato l’AI per elaborare i risultati in un rapporto di intelligence standard.

Il Dipartimento della Difesa degli Stati Uniti ha incrementato l’uso dell’AI per le attività lavorative. Ha sottoscritto contratti con Google, OpenAI, SpaceXAI, Microsoft, NVIDIA, Amazon Web Services e Reflection per l’integrazione dei rispettivi modelli nei sistemi classificati. I militari sfruttano l’AI in quasi ogni aspetto del loro lavoro: dall’analisi dei dati grezzi raccolti alla gestione del budget, della logistica e delle catene di approvvigionamento, fino alla selezione degli obiettivi per gli attacchi.

A causa dell’allucinazione del modello AI (ignoto), i militari avevano pianificato di attaccare il bersaglio sbagliato. Dal Pentagono non è ovviamente arrivato nessun commento. Ieri sera, Donald Trump ha deciso di bloccare l’accesso alla Casa Bianca ai giornalisti della CNN (oltre a quelli di POLITICO e MS NOW) perché pubblicherebbero fake news. Le tre testate giornalistiche hanno annunciato che intraprenderanno azioni legali, in quanto è una chiara violazione del Primo Emendamento.