Araştırmacılar, GPT-6 Astra'ya diğer modellerin ağırlıklarını doğrudan düzenlemeyi öğretti

MIT'den araştırmacılar, GPT-6 Astra modelinin, geleneksel ince ayar (fine-tuning) sürecine gerek kalmadan diğer sinir ağlarının ağırlıklarını doğrudan değiştirmesine olanak tanıyan bir yöntem sundu.

Deney sırasında Astra modeli, Qwen'in performansını başarıyla optimize ederek matematik problemlerini çözme doğruluğunu %7,9'dan %48,1'e çıkardı. Bu sonuca ulaşmak için hedef modelin toplam ağırlıklarının sadece %0,016'sını değiştirmek yeterli oldu. Bu yaklaşım, standart eğitim hesaplama maliyetlerini atlayarak sinir ağlarının davranışlarında noktasal düzeltmeler yapılmasına olanak tanıyor.

Yüksek verimliliğine rağmen teknoloji, belirgin sınırlamalara sahip ve tüm mimari türleri için evrensel bir çözüm değil. Yöntem, sinir ağlarının yapısına doğrudan müdahale etme imkanını gösteriyor; bu da gelecekte model optimizasyonu ve yapılandırma süreçlerini basitleştirebilir.