Araştırmacılar Qwen modellerinden bilgi çıkarma yöntemlerinin etkinliğini değerlendirdiler

Araştırmacılar, Qwen2.5-1.5-Instruct modeli temelinde "unlearning" (unutma) ve "inoculation" (aşılama) yöntemlerinin ampirik bir değerlendirmesini yaptılar. Çalışma sırasında, farklı yaklaşımların, nöral ağın, yararlı becerileri korurken, istenmeyen davranış kalıplarını bastırma yeteneğine nasıl etkilediği incelendi.

Test ortamları olarak FR-Caps ve Hedge-Verse özel veri setleri kullanıldı. Deneysel sonuçlar, modern eğitim yöntemlerinin, such as adaptörler, soft prompts ve ön ekler, istenmeyen özelliklerin kaldırılması ve modelin genel işlevselliğinin korunması arasında belirgin bir ticaret olduğunu gösterdi. Buna karşılık, basit metin talimatlarının (hand-written prompts) sistem davranışını kontrol etmek için önemli ölçüde daha az etkili olduğu görüldü.

Çalışmanın sonuçları, model ağırlıklarını temel özelliklerini bozmadan yönetmenin karmaşıklığını vurgulamaktadır. Görev vektörlerinin (task vectors) kullanımı, belirli bilgi alanlarına nokta etkisi sağlar, ancak yararlı bilgilerin "katastrofik unutması"ndan kaçınmak için parametrelerin dikkatli bir şekilde ayarlanması gerekir.

Verilen araştırma, belirli verilerin model ağırlıklarından kaldırılması gerektiğinde LLM güvenliğini nicel olarak değerlendirir. Elde edilen veriler, güvenlik kısıtlamalarına tam olarak uymak için yeni veri setlerinde yeniden eğitim yapma gereksinimi olmadan modelleri ayarlamak için optimal stratejileri seçmelerine yardımcı olur.