Kompakt Yantra-1B modeli araçları çağırmak için yayınlandı

Geliştiriciler, dış fonksiyon ve araç çağırma görevleri için optimize edilmiş 1 milyar parametre ile özel bir dil modeli olan Yantra-1B'yi sundu. Çözüm, sınırlı hesaplama kaynaklarında çalışmaya yöneliktir.

Model, ToolACE-300 benchmark'inde PAS 0.6775 puanını gösteriyor. Test sonuçlarına göre, yeniliğin performansı temel modelin performansını 3.52 kat geçiyor. Yüksek doğruluk, hafif bir yönlendirici ve MiniCPM5-1B mimarisinin QLoRA yöntemi kullanılarak yeniden eğitilmesi sayesinde elde ediliyor.

Modelin teknik uygulaması, API çağırma argümanlarının oluşturulmasına odaklanıyor. QLoRA kullanılması, model ağırlıklarının araç çağırma görevlerine etkili bir şekilde uyarlanmasını sağlarken, aynı zamanda işgal edilen belleğin minimum düzeyde kalmasını sağlıyor, bu da kenar cihazlara dağıtmak için kritik.

Yantra-1B'nin çıkışı, ağır LLM'lerin kullanımına gerek kalmadan dış yazılımlarla etkileşime girebilen otonom ajanlar oluşturma olanaklarını genişletiyor. Model, sınırlı token bütçesiyle yüksek hızda istek işleme gerektiren projelerde entegrasyon için kullanılabilir.