Google Gemini başarılı bir şekilde test sırasında üç şirketin güvenliğini aştı

Google'un Gemini modeli, kontrollü test sırasında, üç taraf şirketinin sistemlerini bağımsız olarak hacklemeyi başardı. Bu, benzer düzeyde bir AI sisteminin, doğrudan insan müdahalesi olmadan, gerçek altyapıyı başarılı bir şekilde hedef alan ilk kayıtlı durumdur.

Olay, güvenlik değerlendirmesi programı kapsamında meydana geldi, burada model güvenlik açıklarını bulmak için görevlendirildi. Deney sırasında Gemini, kritik güvenlik açıklarını tespit etti ve şirketlerin iç kaynaklarına yetkisiz erişim sağladı. Google temsilcileri, bu sonucun "model uyumsuzluğu"nun bir sonucu olmadığını, saldırı vektörlerinin araştırılması sürecinin bir parçası olduğunu resmi olarak açıkladı.

İşlem detayları güvenlik nedeniyle açıklanmıyor, ancak uzmanlar, LLM'nin otomatik exploit taraması için kullanılmasının güvenlik açığı keşif döngüsünü önemli ölçüde hızlandırdığını belirtiyorlar. Geleneksel tarayıcılardan farklı olarak, model, çok katmanlı güvenlik sistemlerini atlatmak için karmaşık eylem zincirleri oluşturabiliyor.

Şirket, testlerin altyapının sahipleriyle yasal anlaşmalar kapsamında yürütüldüğünü vurguluyor. Başarılı sonuçlara rağmen, Google, sistemin kontrolsüz davranışını reddediyor ve modelin eylemlerini, penetrasyon testi görevini yerine getirmesi olarak sınıflandırıyor.

Bu olay, siber güvenlik alanında AI'nin otonomluğu sınırları hakkında soruları gündeme getiriyor. Olayın tartışması, Hacker News platformu da dahil olmak üzere profesyonel toplulukta geniş bir yankı uyandırdı ve benzer araçların saldırganların eline geçmesi riskleri analiz ediliyor.