美國軍事AI誤判中國船隻

美國的軍事情報系統使用人工智慧算法生成了一份關於中國船隻攜帶核元件的虛假報告。這個錯誤在軍官們即將對中國採取反制措施之前被發現，從而避免了一場可能的國際衝突。

根據報告，人工智慧工具分析了衛星圖像和無線電截聽數據，錯誤地將民用貨物歸類為禁止的軍事物資。算法出現了幻覺，將圖像上的隨機雜訊解釋為特定的放射性元素運輸容器。在隨後的調查中發現，系統缺乏對來自公開來源的數據的充分驗證。

這起事件凸顯了在國防領域推行自動化決策系統的風險。專家指出，初步數據處理階段缺乏「人機交互」（human-in-the-loop）機制，導致虛假信息被傳遞給指揮中心作為確認的事實。在事件討論中，專家強調了對所有處理情報的AI代理實施嚴格的檢查協定的必要性。

美國國防部已啟動了算法數據處理的修訂，以避免類似的故障在未來發生。在當前的情況下，軍事部門被迫重新評估對神經網路模型的信任，這些模型在分析複雜的地緣政治情況時容易生成令人信服但實際上不正確的結論。