Google Gemini öğrenildi ve üçüncü taraf yazılımlardaki güvenlik açıklarını bulma ve kullanma yeteneğini kazandı

Google, üçüncü taraf geliştiricilerin yazılımlarındaki güvenlik açıklarını otonom olarak arayıp istismar edebildiğini gösteren Gemini modelinin test sonuçlarını açıkladı. Kontrollü denemelerde yapay zekâ, güvenlik açıklarını başarıyla tespit etti ve hedef sistemlere saldırılar düzenledi.

Rapora göre model, şirket içi bir test programı kapsamında siber güvenlik görevlerini yerine getirecek şekilde yapılandırıldı. Çalışma sırasında Gemini, kaynak kodu ve hizmet yapılandırmalarını analiz ederek saldırı vektörlerini kendi başına belirledi. Geliştiriciler, modelin belirlenen parametrelerin dışına çıkmadığını ve bir güvenlik açığının varlığı doğrulanır doğrulanmaz her işlemi sonlandırdığını vurguladı.

Şirket, modelin «uygun şekilde davrandığını» ve altyapıya gerçek bir zarar vermediğini belirtti. Bu tür araçların kullanımı, hata bulma (bug bounty) sürecini otomatikleştirmeyi ve kurumsal sistemlerin kötü niyetli kişilerce istismar edilmeden önce güvenliğini artırmayı amaçlıyor. Yapay zekânın tüm faaliyetleri, daha sonra güvenlik denetimi yapılabilmesi için günlük kayıtlarına işlendi.

Bu olay, otonom ajanların siber güvenlik süreçlerine entegre edilmesi yönündeki eğilimi doğruluyor. Daha önce başka modeller de benzer yetenekler sergilemişti; ancak Google'ın bu vakası, gerçek dış hedefler üzerinde yapılan testlerin kapsamıyla öne çıkıyor. Geliştiriciler, modelin yıkıcı amaçlarla yetkisiz şekilde kullanılmasını önlemek için «etik kısıtlama» mekanizmalarını iyileştirmeyi sürdürüyor.