Araştırmacılar OpenAI sistemlerini Claude modelini kullanarak hacklediler

Güvenlik araştırmacıları grubu OpenAI altyapısına başarılı bir şekilde Claude dil modeli olanaklarını kullanarak bir saldırı gerçekleştirdi. Deney sırasında şirket çalışanlarının hesabına yetkisiz erişim sağlandı ve GitHub'daki kapalı depolardan gizli veriler çıkarıldı.

Saldırı vektörü, modeli yazılım tedarik zincirindeki kod analizi ve güvenlik açıklarının otomatik olarak bulunması için kullanmayı içeriyordu. AI aracısı, erişim yapılandırmasındaki zayıf noktaları başarılı bir şekilde tanımladı, bu da standart kimlik doğrulama protokollerinin atlanmasını sağladı. Araştırmacıların eylemleri, özel verilerin okunmasına izin veren dahili erişim tokenlerini tehlikeye attı.

Saldırının teknik uygulaması, modelin gerçek zamanlı olarak bulunan güvenlik açıklarını sömürebilecek özel betikler oluşturmasını gerektiriyordu. Araştırmacılar, LLM'nin keşif ve sömürü yazma sürecini önemli ölçüde hızlandırdığını, saldırının hazırlanma süresini birkaç haftadan birkaç saate kısalttığını vurguluyorlar. Elde edilen veriler, bulut hizmetlerine erişim anahtarlarını içeren kaynak kodu parçaları ve dahili belgeleri içeriyordu.

Bu olay, siber güvenlikle ilgili yeni riskleri gösteriyor. AI aracilerinin karmaşık kurumsal ortamlarda otomatik olarak güvenlik açıklarını bulma ve sömürme yeteneği, kritik sistemlerin geliştirilmesinde yönetici haklarına sahip çalışanlar için perímetre korumasına ve erişim yönetimine yönelik yaklaşımların yeniden değerlendirilmesini gerektiriyor.