ConvAI Innovations açık model Laya'yı yayınladı

ConvAI Innovations şirketi, Jev mimarisine açık bir alternatif olarak konumlandırılan, karar alma için não-oto-regresif model ailesi olan Laya'yı sundu. Yeni ürün, "System 1" türündeki görevlere yöneliktir ve öncülüne kıyasla 6-8 kat performans artışı sağlar.

Modeller, Apache 2.0 lisansı altında dağıtılır, bu da API kullanım maliyetlerini ortadan kaldırır ve bunları yerel olarak dağıtmaya olanak tanır. Sürüm, belirli mantıksal işlemleri gerçekleştirmek için optimize edilmiş üç özel kontrol noktasını içerir: seçim (choice), puanlama (score) ve boolean ilkelere (boolean primitives) çalışma.

Laya'nın teknik uygulaması, modelin standart LLM'lerin yanı sıra karar alma görevlerinde doğruluğu korurken, talepleri önemli ölçüde daha hızlı işlemeavesi sağlayan oto-regresif yaklaşımı ortadan kaldırır. Bulut hesaplamalarına duyulan ihtiyacın olmaması, aracı düşük gecikme süreleri gerektiren sistemlere entegre etmeye uygun hale getirir.

Verilen sürüm, Jev mimarisinin geliştirilmesiyle başlayan yüksek hızlı veri işleme araçları ekosistemini genişletir. Tam belgeler ve model ağırlıkları, projenin resmi web sitesinde mevcuttur ve teknik uygulamanın tartışması, Hacker News topluluğunda yürütülmektedir.