開發人員推出了Jev架構以加速AI計算

公司 Jev 宣布推出了一種原則上新的 AI 模型類型，該模型著重於提高速度和降低軟體智慧的成本。開發的目的是為了優化傳統上需要大量計算能力的流程，尤其是在使用大型語言模型時。

Jev 的架構使用了一種獨特的數據處理方法，可以減少生成回應的延遲。根據內部測試，該模型在推理成本方面比當前世代的類似解決方案降低了 40%。該系統已經針對資源有限的環境進行了優化，因此非常適合集成到複雜的企業應用程序中。

模型的技術實現基於重新審視上下文窗口的工作原理，使系統能夠使用較少的內存來處理長序列的令牌。開發人員聲稱，該架構支持無損失精度的擴展，這得到了邏輯推理和代碼編寫任務的基準測試結果的證實。

來自 ChatGPT 創作者之一的新模型創建方法標誌著從巨型單體系統到更專業和高效的架構的轉變。實施此類解決方案使公司能夠降低對昂貴雲計算資源的依賴，並加速在實時環境中部署 AI代理。