TypeSafe AI 推出了 Jev 數據分類模型

公司 TypeSafe AI 釋出了 Jev — 一種專門的「決策模型」（decision model），用於分類和排名任務。與標準的 LLM 不同，後者生成文字序列，Jev 返回 浮點數值，反映系統對回答的信心程度。

模型架構優化了高性能和低運營成本。Jev 的主要使用場景包括過濾垃圾郵件、內容分類和實時排名。放棄生成長文字回答可以顯著降低每個請求的計算成本，相比傳統的語言模型。

系統的技術參數針對高負載的數據處理管道進行了優化。模型在二元和多類分類任務中表現出高精度，為開發人員提供了直接訪問概率估計的途徑。這簡化了自動化決策系統的閾值設置，無需解析自然語言。

工具已在 Hacker News 社區中提供測試和討論。使用 Jev 可以在只需要分類的任務中替換重型 LLM，從而降低延遲和 API 成本。這種方法改變了使用生成模型的範式，將其從「文字生成器」轉變為「分析引擎」。