開源模型將與專有模型之間的差距縮短至4個月

研究計畫 State of Open Source AI 發佈的報告指出，封閉式 frontier 模型和開源模型之間的性能差距已縮小至 4 個月。分析顯示，使用付費 API 的公司在獲得微小的速度優勢方面花費了 5 倍 的成本。

在研究過程中，專家們比較了領先的專有系統和在 Artificial Analysis 平台上呈現的開源解決方案的指標。結果發現，包括中國的開發在內的開源模型在編碼和邏輯推理任務中表現出相似的結果。同時，開源模型的自主托管成本遠低於雲端 frontier 解決方案的訂閱費用。

Ars Technica 的數據證實，開源架構的微調和優化速度使其能夠在一個季度內趕上矽谷的旗艦模型。這一過程的主要驅動力是高質量數據集和知識蒸餾方法的可用性，這些方法以前是大型企業的專屬優勢。

對於企業來說，這意味著基礎設施選擇策略的轉變。如果以前使用封閉式 API 是獲得 SOTA 結果的唯一方法，那麼現在公司可以在不犧牲質量的情況下轉向本地或雲端開源模型，節省高達 80% 的推理預算。市場正在從專有系統的壟斷轉向一個開源模型的模式，在這種模式中，4 個月的優勢成為支持付費訂閱的唯一論點。