Araştırmacılar Astra modelinin zincirli akıl yürütme olmadan çalışmasını belirledi

Astra'nın çalışma analizi, modelin minimum CoT token kullanımı ile görevleri gerçekleştirebileceğini gösterdi. Test sırasında, düşük karmaşıklıkta isteklerde sistem, önceki sürümlerle karşılaştırıldığında ara hesaplamaların hacmini önemli ölçüde azalttı.

Gözlem sonuçları, modelin genişletilmiş metin zincirleri oluşturma ihtiyacına gerek kalmadan iç mantık kurallarını uyguladığını gösteriyor. Deney sırasında model, bir dizi görevi 2 saat içinde tamamlayarak 7 puan elde etti. Bu, derin bir dekompozisyona ihtiyaç duyulmayan durumlarda mimarinin doğrudan cevapları çıkarma yeteneğini doğrulamaktadır.

No-CoT modunun kullanılması, modelin hesaplama kaynaklarını tasarruf etmesine ve cevap oluşturma süresini kısaltmasına olanak tanır. Basit operasyonlar için "düşünce zinciri" ihtiyacının olmaması, yüksek yüklenen sistemler için kritik olan çıkarım yükünü azaltır. Araştırmacılar, benzer bir davranışın daha etkili bir iç bilgi temsilini gösterdiğini belirtiyorlar.

Verilen araştırma, modern LLM'lerin bilgi işleme sürecini nasıl optimize ettiğini anlamamızı sağlar. Aşırı CoT tokenleri olmadan doğrudan görev çözme yöntemine geçmek, hız ve maliyet azaltmaya yönelik mimarilerin geliştirilmesinde önemli bir adımdır.