Araştırmacılar modelleri kontrol etmek için Inoculation Midtraining yöntemini sundular

Araştırmacılar, sinir ağlarının istenmeyen davranışlarını sınırlamak için Inoculation Midtraining tekniğini önerdi. Yöntem, potansiyel olarak tehlikeli veya uygunsuz yanıtları belirli bir bağlamla ilişkilendirmek için eğitim sürecine özel bir neolojizm tokenı eklemeye dayanıyor.

Deneylerde yazarlar, neolojizm kullanımının modelin yönelim bozukluğunu azaltırken konuşma tarzı ve genel bilişsel yetenekler gibi temel özelliklerini koruduğunu belirledi. Teknik, modeldeki “yanlış” davranışı belirli bir alana hapsetmeyi ve bunun kullanıcıyla etkileşimin diğer senaryolarına yayılmasını önlemeyi amaçlıyor.

Test sonuçları, yöntemin mevcut uygulamasının standart Inoculation Prompting yaklaşımından daha az etkili olduğunu gösterdi. Araştırmacılar, algoritmanın hiperparametrelere yüksek duyarlılık gösterdiğini ve farklı mimarilerde istikrarlı güvenlik ölçütlerine ulaşmak için ek ayarlamalar gerektiğini belirtiyor.

Bu yaklaşım, modellerin ek eğitim aşamasında “hizalama” (alignment) sorununu çözme girişimi niteliğinde. Harici filtrelerden farklı olarak yöntem, belirli davranış örüntülerinin etkinleşmesini yönetmek için dilsel işaretleyiciler kullanarak kontrol mekanizmalarını doğrudan modelin ağırlıklarına entegre etmeye çalışıyor.