Araştırmacılar, LLM ağırlıklarını düzeltmek için doğrusal programlama uyguladı

Araştırmacılar, sinir ağı ağırlıklarını noktasal olarak değiştirmek için doğrusal programlama kullanan Astra yöntemini tanıttı. Teknoloji, tam kapsamlı bir ince ayar (fine-tuning) veya mimari değişikliğine gerek kalmadan modellerdeki mantıksal hataların düzeltilmesine olanak tanıyor.

Deney sırasında yazarlar, matematik problemlerini çözerken döngüsel hatalar sergileyen Qwen3.5-0.8B modeline bu yaklaşımı uyguladılar. Artık akışının (residual stream) yönünü değiştirerek, modelin MATH-500 benchmark'ındaki doğruluğunu %7.9'dan %48.1'e çıkarmayı başardılar. Bu süreçte toplam ağırlıkların sadece %0.016'sı değişikliğe uğradı.

Yöntem, önceden eğitilmiş modellerin işleyişine "cerrahi" bir müdahale imkanı sunuyor. Algoritma, tüm ağırlık matrisini düzeltmek yerine, belirli bir davranış kusurunu ortadan kaldıran minimum gerekli değişikliği buluyor. Bu, modelin genel bilgisini ve parametrelerini korurken mantıksal akıl yürütme hatalarının düzeltilmesini sağlıyor.

Uygulayıcılar için bu, klasik fine-tuning'e göre çok daha az hesaplama kaynağı gerektiren yeni bir sinir ağı hata ayıklama yönteminin ortaya çıkması anlamına geliyor. Teknik, ağırlık yapısına minimum müdahale ile orijinal performansın korunmasının kritik olduğu kompakt modellerdeki spesifik hataları düzeltmek için faydalı olabilir.