TypeSafe 提出了 Jev 決策 API

公司 TypeSafe 釋出了 API 給 Jev — 一種工具，它不會生成文字，而是從預先定義的解決方案空間中選擇最佳選項。該系統針對需要高速度和高精度執行的任務，排除了標準語言模型的幻覺。

Jev 的架構基於 Noul、Choice 和 Score 合約，定義了選擇回應的邏輯。與傳統的 LLM 不同，模型不會預測下一個 token，而是基於給定的參數執行分類或選擇動作。這使得可以達到極低的延遲：例如，基於 Jev 的瀏覽器代理可以在 7 秒 內找到機票。

開發人員已經使用 API 創建交易機器人、內容過濾器和管理系統，包括 Tesla FSD 的原型。該工具允許開發人員嚴格限制允許的回應範圍，使系統在關鍵場景中的行為可預測。文檔描述了通過 API 呼叫進行集成的過程，其中成本和性能已針對特定的應用任務進行優化。

從生成模型轉向專用解決方案可以降低計算成本並提高自動化系統的可靠性。Jev 填補了需要嚴格遵循給定的決策算法而不是創造性方法的領域空白，尤其是在實時決策中。