開發人員推出了dspy-typesafeify以優化模型輸出

開發人員發佈了 dspy-typesafeify — DSPy 框架的分支，該分支在推理過程中實施嚴格的類型檢查。該工具添加了 @typesafeify 裝飾器，允許將結構化欄位的處理委託給 Typesafe 公司的 Noul 服務。

使用此解決方案可以確保執行速度提高 15.9%。除了加速之外，集成還允許通過優化模型和外部類型檢查服務之間的數據傳輸，將令牌生成成本降低 30.1%。

該項目保留了與原始 dspy.Predict API 的完全兼容性，因此可以在不改變 LLM 工作邏輯的情況下將類型檢查集成到現有的管道中。開發人員將此解決方案定位為提高需要嚴格遵守數據結構的任務中輸出可靠性的概念驗證。

該工具面向使用 DSPy 建立複雜呼叫鏈的開發人員，在這些鏈中，輸出格式的可預測性至關重要。該項目的源代碼在 GitHub 上以開放授權的形式提供，供測試和集成到生產環境中。