Il Pentagono ha riconosciuto il ruolo dell'AI nell'errato attacco missilistico alla scuola in Iran

Il Ministero della Difesa degli Stati Uniti ha confermato ufficialmente che un'eccessiva fiducia negli algoritmi di intelligenza artificiale è stata una delle cause dell'attacco missilistico a una scuola in Iran. A seguito dell'incidente sono morti 123 bambini, provocando un grande scalpore internazionale e un'indagine da parte delle Nazioni Unite.

Secondo un rapporto del Pentagono, il sistema di guida si basava su immagini satellitari obsolete e dati di intelligence errati elaborati da una piattaforma di analisi automatizzata. L'algoritmo ha classificato l'obiettivo civile come un obiettivo militare senza ricevere la dovuta verifica da parte degli operatori, portando al lancio del missile.

Gli investigatori delle Nazioni Unite hanno qualificato l'evento come crimine di guerra, sottolineando le gravi carenze nei protocolli di sicurezza nell'uso di sistemi di decisione autonomi. Il rapporto sottolinea che l'automazione dell'analisi dei dati in questo caso ha portato all'ignoranza di anomalie visive che avrebbero potuto prevenire l'attacco.

L'incidente è stato il motivo per rivedere le regole sull'uso dell'AI nelle operazioni militari degli Stati Uniti. Gli esperti su Hacker News notano che gli attuali standard "uomo nel ciclo" (human-in-the-loop) si sono rivelati inefficaci quando si lavora con sistemi di designazione di obiettivi ad alta velocità. Si prevede un inasprimento del controllo sull'implementazione di modelli di reti neurali nei sistemi di controllo delle armi nel prossimo futuro.