Pentagon AI'ın İran'daki bir okula yanlış füze saldırısında oynadığı rolü kabul etti

Amerika Birleşik Devletleri Savunma Bakanlığı, İran'daki bir okula füze saldırısının nedenlerinden birinin yapay zeka algoritmalarına aşırı güvenmek olduğunu resmi olarak doğruladı. Olayda 123 çocuk öldü, bu durum uluslararası yankı ve BM tarafından soruşturma ile sonuçlandı.

Pentagon'un raporuna göre, rehberlik sistemi eski uydu görüntülerine ve otomatikleştirilmiş bir analitik platform tarafından işlenen yanlış istihbarat verilerine dayanıyordu. Algoritma, operatörlerden uygun bir doğrulama alamadan sivil bir nesneyi askeri hedef olarak sınıflandırdı, bu da füzenin fırlatılmasına neden oldu.

BM soruşturmacıları, meydana gelen olayı askeri suç olarak nitelendirdi ve otonom karar alma sistemlerinin kullanımında güvenlik protokollerindeki kritik arızalara dikkat çekti. Rapor, bu durumda veri analizinin otomatikleştirilmesinin, saldırıyı önleyebilecek görsel anormalliklerin göz ardı edilmesine yol açtığını vurguluyor.

Olay, ABD'nin askeri operasyonlarında AI kullanım kurallarını gözden geçirmesine neden oldu. Hacker News platformundaki uzmanlar, mevcut "insan döngüsü" standartlarının yüksek hızlı hedef belirleme sistemleriyle çalışırken etkili olmadığını belirtiyorlar. Yakın zamanda, silah kontrol sistemlerine sinir ağları modellerinin entegrasyonuna daha sıkı kontroller getirilmesi bekleniyor.