L'intelligenza artificiale militare degli Stati Uniti ha commesso un errore nell'identificazione di una nave cinese

Il sistema di intelligence militare degli Stati Uniti, che utilizza algoritmi di intelligenza artificiale, ha generato un rapporto falso sulla presenza di componenti nucleari a bordo di una nave cinese. L'errore è stato individuato dagli ufficiali proprio prima di prendere la decisione di avviare misure di risposta, evitando così un potenziale conflitto internazionale.

Secondo il rapporto, lo strumento di intelligenza artificiale ha analizzato immagini satellitari e dati di intercettazione radio, classificando erroneamente un carico civile come materiali militari proibiti. L'algoritmo ha commesso una allucinazione, interpretando interferenze casuali sull'immagine come contenitori specifici per il trasporto di elementi radioattivi. Nel corso dell'indagine successiva, è emerso che il sistema non aveva un livello sufficiente di verifica dei dati provenienti da fonti aperte.

L'incidente sottolinea i rischi critici legati all'implementazione di sistemi di decisione automatizzati nel settore della difesa. Gli esperti notano che la mancanza di meccanismi di "controllo umano" (human-in-the-loop) nella fase di elaborazione iniziale dei dati ha portato a trasmettere informazioni false come fatti confermati allo stato maggiore. Nelle discussioni sull'incidente, gli specialisti sottolineano la necessità di implementare protocolli di verifica rigorosi per tutti gli agenti di intelligenza artificiale che lavorano con informazioni di intelligence.

Il Ministero della Difesa degli Stati Uniti ha avviato una revisione degli algoritmi di elaborazione dei dati per evitare simili malfunzionamenti in futuro. Nelle attuali condizioni, le autorità militari sono costrette a rivedere la fiducia nei modelli di rete neurale, che tendono a generare conclusioni convincenti ma di fatto errate nell'analisi di situazioni geopolitiche complesse.