Nvidia 推出了 SoL-Pi 系統以減少人工智慧代理的代幣數量

研究人員 Nvidia 開發了 SoL-Pi 系統，可以將編程 AI 代理的令牌使用量減少近 49%。同時，模型的性能保持不變，這得益於在神經網絡和其工作環境之間的控制層進行了優化。

為了創建這個系統，專門的研究代理在超過 3 000 次運行中測試了 152 種方法。優化涉及所謂的 harness，即代理與文件系統和終端交互的環境和指令集。

在關鍵的基準測試中，令牌使用量的減少達到了宣稱的 49%，但在其他測試中，結果更為保守。這項開發旨在大大降低執行長時間編碼和調試任務的自主代理的財務成本。

新的方法可以更有效地使用上下文窗口並減少服務請求的開銷，這對於基於人工智慧的軟件開發系統的擴展至關重要。