TypeSafe sundu API için Jev karar alma

Şirket TypeSafe Jev için API yayınladı - önceden belirlenmiş bir çözüm alanı içinde optimal seçeneği seçen bir araç. Sistem, yüksek hız ve standardı dil modellerinin halüsinasyonlarını dışlayan kesinlik gerektiren görevlere yöneliktir.

Jev'in mimarisi Noul, Choice ve Score sözleşmelerine dayanır ve yanıt seçim mantığını tanımlar. Klasik LLM'lerin aksine, model bir sonraki tokeni tahmin etmekle uğraşmaz, sondern verilen parametreler temelinde sınıflandırma veya eylem seçimi gerçekleştirir. Bu, aşırı düşük gecikmelere ulaşmayı sağlar: örneğin, Jev tabanlı bir tarayıcı aracı 7 saniye içinde uçak biletleri bulabilir.

Geliştiriciler zaten API'yi ticaret botları, içerik filtreleri ve yönetim sistemleri oluşturmak için kullanıyorlar, Tesla FSD için prototipler dahil. Araç, geliştiricilerin geçerli yanıtların alanını katı bir şekilde sınırlamasına olanak tanır, bu da kritik senaryolarda sistemin davranışını öngörülebilir kılar. Belgelendirme, API çağrıları aracılığıyla entegrasyon sürecini açıklar, burada maliyet ve performans belirli uygulamalı görevler için optimize edilmiştir.

Yaratıcı modellerden özel çözücülere geçmek, hesaplama maliyetlerini azaltmaya ve otomatik sistemlerin güvenilirliğini artırmaya olanak tanır. Jev, yaratıcı bir yaklaşım değil, gerçek zamanlıda verilen algoritmaları sıkı bir şekilde izleme gerektiren bir nişayı kapatır.