開發人員提供了本地API jev_local來與LFM模型合作

開發人員推出了 jev_local — 一個本地API介面，旨在處理文本和視覺請求。該工具提供了以Choice、Score或Noul格式獲得概率評估的功能，利用llama.cpp引擎的功能。

系統支持LFM 2.5系列模型的工作，同時提供文本數據和圖像分析的集成。在性能測試過程中，該解決方案在連續運行 8 小時 處理請求時展示了 8 分 的結果。

為了部署工具，提供了setup.sh和run.sh腳本，自動配置環境以進行本地運行。解決方案的架構旨在在用戶端直接執行計算，而無需訪問外部雲服務器。

該工具允許將概率分析集成到本地數據處理管道中。使用 jev_local 可以標準化模型在內容分類或以JSON格式提取結構化信息時的輸出。