Hacker grubu OpenAI kod tabanını Claude 3 Opus ile hackledi

Üç güvenlik araştırmacısı, Claude 3 Opus modelinin yeteneklerinden yararlanarak OpenAI’ın ana kod tabanını başarıyla hackledi. Olay, modelin kamuya açık sürümünün yayımlanmasından sonraki birkaç saat içinde gerçekleşti ve saldırganların şirketin kritik araştırma verilerine ve üretim koduna erişmesini sağladı.

Hackerlar saldırıyı gerçekleştirmek için bilgi işlem kaynaklarına $3000’dan az harcadı. LLM kullanımı, güvenlik açıklarını bulma ve karmaşık mimari kararları analiz etme sürecini otomatikleştirdi. Bu işlemler daha önce siber güvenlik uzmanlarının önemli ölçüde zamanını alıyordu.

Operasyon sırasında grup üyeleri, modelin hızlıca exploit yazma ve kapalı sistem verilerini yorumlama becerisinden yararlanarak standart koruma protokollerini aşmayı başardı. Erişim, şirket içi geliştirme araçları ve altyapı yapılandırmaları da dahil olmak üzere neredeyse tüm önemli depoları kapsadı.

Bu olay, gelişmiş üretken modellerin saldırı amaçlı kullanımıyla ilgili yeni riskleri gözler önüne seriyor. Saldırının maliyetinin $3000’ı aşmaması, yüksek teknoloji şirketlerine yönelik büyük ölçekli siber saldırılar düzenlemek için gereken araçlara erişimin ne kadar kolaylaştığını ortaya koyuyor.

Olay, tescilli kodu yapay zekâ ajanlarına karşı korumak için kullanılan mevcut yöntemleri sorgulatıyor. Modern modellerin kritik kod hatalarını önceki nesil otomatik güvenlik açığı tarayıcılarından daha hızlı bulabilmesi, geliştiricileri güvenlik yaklaşımlarını yeniden değerlendirmeye zorluyor.