發佈了Yantra-1B的緊湊型號以呼叫工具

開發人員推出了 Yantra-1B — 一種專門的語言模型，具有 1億個參數，針對外部函數和工具的調用進行優化。該解決方案針對計算資源有限的環境進行了優化。

該模型在 ToolACE-300 基準測試中展示了 PAS 0.6775 的指標。根據測試結果，新模型的性能比基本版本模型高出 3.52倍。高精度是通過輕量級路由器和使用 QLoRA 方法對 MiniCPM5-1B 架構進行微調而實現的。

模型的技術實現側重於為 API 調用生成引數。使用 QLoRA 可以有效地根據特定工具調用任務調整模型權重，同时保持最小的內存佔用，這對於在邊緣設備上部署至關重要。

Yantra-1B 的發布擴大了創建可以在不需要使用重型 LLM的情況下與外部軟件交互的自治代理的可能性。該模型可用于需要在令牌預算有限的情況下實現高速度請求處理的項目中。