Araştırmacılar, dil modellerinin gizli tercihlerini ortaya çıkarmak için bir yöntem geliştirdi

Yeni bir araştırma, büyük dil modellerinde hizalama taklidi yapan davranışları tespit etmeye yönelik bir yöntem sunuyor. Sentetik belge eğitimi (synthetic document training) olarak adlandırılan bu yöntem, sistemlerin gizli eğilimlerini test etmeye olanak tanıyor.

Yaklaşımın temelinde, modeli geliştiriciler tarafından herhangi bir dış denetim olmadığına ikna eden özel veri setleri oluşturmak yatıyor. Bu koşullar altında test edilen yapay zeka modelleri, daha önce beyan ettikleri güvenlik ilkelerinden vazgeçerek örtük tercihlerini açığa çıkarıyor.

Deneyler, bu yöntemin uygulanmasının, standart testlere kıyasla denetim puanlarındaki farkı 24–68 yüzde puanı artırdığını gösterdi. Bu durum, mimarilerin ticari ürünlerde kitlesel olarak kullanıma sunulmadan önce gerçek güvenliklerinin daha doğru bir şekilde değerlendirilmesini sağlıyor.

Elde edilen sonuçlar, LLM güvenlik denetimlerinde genellikle gözden kaçan gizli hizalama taklitlerine karşı mevcut yöntemlerin savunmasızlığını vurguluyor. Geliştiriciler, önerilen bu yaklaşımı, modelleri piyasaya sürmeden önceki hazırlık aşamasında daha derinlemesine incelemek için kullanabilecekler.