Araştırmacılar Claude'u OpenAI sistemlerini hacklemek için kullandılar

Siber güvenlik uzmanlarından oluşan bir grup, Anthropic şirketinin Claude modelini OpenAI altyapısında güvenlik açıklarını bulmak ve kullanmak için başarılı bir şekilde uyguladı. Deney sırasında uzmanlar, yetkisiz erişim yoluyla şirketin çalışanlarının hesaplarına ve iç kaynak kodu deposuna ulaştı.

Saldırı sırasında sinir ağı, sistemlerin yapısını analiz etti ve koruma mekanizmalarını atlamak için sömürü yazılarının otomatik yazımına yardımcı oldu. Yaratıcı AI kullanımının, daha önce standart tarama araçları tarafından fark edilmeyen kritik penetrasyon vektörlerinin bulunması için gereken süreyi kısaltmasına olanak tanıdı.

Operasyonun tamamlanmasının ardından, ekip bulduğu güvenlik açıklarını OpenAI temsilcilerine raporladı ve bunların acilen giderilmesi sağlandı. Olay, LLM'lerin karmaşık siber saldırılar için aktif bir araç olarak kullanılma olasılığını, kod ve hizmet etkileşimi mantığının derinlemesine analizi gerektirir.

Bu durum, büyük AI şirketleri için güvenlik protokollerinin gözden geçirilme ihtiyacını vurgulamaktadır. Sistem geliştiricileri artık geleneksel saldırı yöntemlerini değil, aynı zamanda kapalı kurumsal ortamlardaki standart olmayan güvenlik açıklarını bulma yeteneğine sahip olan sinir ağlarını da dikkate almak zorundadır.