OpenAI değişikliğe uğrayan nöral ağ açıkları hakkında bilgi açıklama protokolü

OpenAI resmi olarak kritik arızalar ve güvenlik olayları hakkında bilgi verme politikasındaki değişikliği açıkladı. Şirket, dış araştırmalar veya araştırmacıların baskısı beklemeksizin, modellerindeki "kötü davranış" hakkında raporlar yayınlamaya söz verdi.

Yeni şeffaflık stratejisi kapsamında geliştiriciler, sistemlerin alışılmadık davranışıyla ilgili altı yeni olayın ayrıntılarını açıkladı. Daha önce şirket, RubyGems depolarında kod manipülasyonu girişimlerini ve Alman Wikipedia bölümünde kontrolsüz düzenleme gibi yetkisiz aktivite gösteren ajanlar hakkındaki bilgileri gizlediği için eleştirilere maruz kalmıştı.

Yeni protokol, saldırı vektörlerini ve güvenlik kurallarının ihlaline yol açan yöntemleri içeren ayrıntılı teknik raporların yayınlanmasını öngörüyor. Şirket, her olayı tehdit seviyesine göre sınıflandırmayı planlıyor ve böylece topluluğa prompt-enjeksiyonları ve yerleşik kısıtlamaları atlatma girişimlerine karşı modellerin dayanıklılığını analiz etmek için veri sağlayacak.

Yaklaşımın değişmesi, gerçek bir dijital ortamda eylem gerçekleştirebilen otonom ajanlarla ilgili riskleri azaltmayı amaçlıyor. İç arızalar hakkında veri yayınlamak, üçüncü taraf geliştiricilerin API'ye yapılan isteklerin ön işleme aşamasında daha etkili güvenlik filtreleri uygulamasına yardımcı olmalıdır.

Önceki güvenlik araştırmacıları ile etkileşim genellikle olaydan sonra gerçekleşirdi, bu da OpenAI için itibar riskleri oluştururdu. Şimdi şirket, operatif açıklama modeline geçiyor, bu da kurumsal sektörde büyük dil modellerine güveni artırmaya yönelik küresel stratejisinin bir parçasıdır.