AI 幻覺導致美中軍事衝突風險升高

使用人工智慧算法的美國海軍情報操作幾乎引發國際衝突，系統錯誤地將一艘中國民用船隻誤認為攜帶禁止的核元件，令軍事指揮部面臨截停和檢查船隻的威脅。

根據CNN的報導，事件發生是由於分析模型工作中的關鍵錯誤，該模型將錯誤的數據解釋為違反國際制裁的證據。算法生成了虛假報告，基於不完整的衛星圖像和錯誤的元數據，導致船隻被自動分類為「高風險物體」。

在隨後的調查中發現，模型出現了「幻覺」，將船隻的結構細節補充到軍事規格水平。錯誤被參謀部官員在開始強制停船操作前幾分鐘內發現，這使得美國在爭議地區與中國力量的直接對峙得以避免。

此事件引發了美國國防部重新審視使用自主系統在情報活動中的協議。目前，軍事部門正在引入對所有AI系統結果的人類操作員強制驗證，以排除基於不正確數據的自動決策。事件凸顯了在安全的關鍵基礎設施中部署生成模型的風險，在這裡，錯誤的代價可能導致地緣政治緊張的升級。