ABD'nin askeri AI'sı Çin gemisini tanımlamada hata yaptı

Amerika Birleşik Devletleri'nin askeri istihbarat sistemi, yapay zeka algoritmalarını kullanarak, bir Çin gemisinde nükleer bileşenler bulunduğuna ilişkin yanlış bir rapor oluşturdu. Hata, yanıt önlemlerinin alınması kararı alınmadan hemen önce subaylar tarafından tespit edildi, bu da potansiyel bir uluslararası çatışmayı önledi.

Rapora göre, AI aracı uydu görüntülerini ve radyo dinleme verilerini analiz etti ve yanlış olarak sivil kargoyu yasaklanmış askeri malzemeler olarak sınıflandırdı. Algoritma, halüsinasyon yaptı ve resimdeki rastgele parazitleri radyoaktif elementlerin taşınması için özel konteynırlar olarak yorumladı. Sonraki soruşturma, sistemin açık kaynaklardan gelen verilerin yeterli düzeyde doğrulamasını yapmadığını ortaya koydu.

Olay, savunma sektöründe otomatik karar alma sistemlerinin uygulanmasında kritik riskleri vurgulamaktadır. Uzmanlar, ilk veri işleme aşamasında "insan denetimi" mekanizmalarının olmayışının, yanlış bilginin doğrulanmış bir gerçek olarak karargaha iletmesine neden olduğunu belirtiyorlar. Olayın tartışmalarında uzmanlar, istihbarat verileri ile çalışan tüm AI ajanları için sıkı doğrulama protokollerinin uygulanması gerektiğini vurguluyorlar.

Amerika Birleşik Devletleri Savunma Bakanlığı, benzer arızaları gelecekte önlemek için veri işleme algoritmalarının gözden geçirilmesini başlattı. Mevcut koşullarda, askeri kurumlar, karmaşık jeopolitik durumların analizinde inandırıcı ancak aslında yanlış sonuçlar üreten sinir ağları modellerine olan güveni yeniden değerlendirmek zorunda kalıyor.