Yapay zekâ halüsinasyonu, ABD ile Çin arasında askerî çatışma riskine yol açtı.

ABD Donanması’nın istihbarat operasyonlarında yapay zekâ algoritmalarını kullanması uluslararası bir çatışmayı kıl payı önledi. Veri işleme sistemi, Çin’e ait sivil bir gemiyi yasaklı nükleer bileşenler taşıyan bir gemi olarak yanlış tanımladı. Bu durum, askeri komutanlığı gemiyi durdurup arama tehdidiyle karşı karşıya bıraktı.

CNN'in haberine göre olay, analiz modelinin uluslararası yaptırımların ihlal edildiğine dair kanıt olarak yanlış verileri yorumlamasından kaynaklanan kritik bir hata nedeniyle yaşandı. Algoritma, eksik uydu görüntülerine ve bozulmuş meta verilere dayanarak sahte bir rapor oluşturdu ve geminin otomatik olarak “yüksek riskli hedef” şeklinde sınıflandırılmasına yol açtı.

Daha sonra yürütülen soruşturmada, modelin geminin yapısına ilişkin eksik ayrıntıları askeri standartlara göre tamamlayarak “halüsinasyon” gördüğü ortaya çıktı. Hata, gemiyi zorla durdurma operasyonunun başlamasından birkaç dakika önce karargâhtaki subaylar tarafından tespit edildi. Böylece tartışmalı bölgede Çin kuvvetleriyle doğrudan bir çatışma yaşanmasının önüne geçildi.

Bu olay, Pentagon’un istihbarat faaliyetlerinde otonom sistemlerin kullanımına ilişkin protokollerin gözden geçirilmesine yol açtı. Askeri kurum, güvenilir olmayan veriler temelinde otomatik karar alınmasını önlemek için AI sistemlerinin tüm çıkarımlarının insan operatörler tarafından doğrulanmasını zorunlu kılıyor. Olay, hata bedelinin jeopolitik gerilimin tırmanmasına yol açabileceği kritik güvenlik altyapılarında üretken modellerin kullanılmasının risklerini gözler önüne seriyor.