研究人員提出了一種透過多代理人協調來擴展計算的方法

研究人員發表了對於多代理協調方法的分析，允許在模型後訓練階段增加計算資源的容量。這種方法基於任務的並行化和邏輯鏈的重複使用，使得可以更有效地分配多個代理之間的負載。

主要思想在於，與其線性增加模型的參數，不如使用並行處理，每個代理執行部分計算。這允許將更多的計算資源導向答案的驗證和檢查，而不需要等待單個過程生成整個序列。這種方法可以通過分佈式質量控制降低錯誤的可能性。

在工作中指出，當前架構可以在使用協調協議的情況下有效擴展，這些協議可以最小化計算的冗余。應用這種系統可以重新分配令牌預算，為複雜的推理階段分配更多的計算能力，這對於具有高不確定性的任務至關重要。

儘管具有潛力，專家強調，多代理方法目前只佔近期LLM性能突破的10%。然而，轉向代理系統成為克服經典學習限制的關鍵方向，在這種限制中，計算效率受到單個模型架構限制的限制。

這項研究為後訓練的優化開辟了新的可能性，允許開發人員靈活地管理計算成本。實施這種方法可以從根本上改變對於創建需要在基礎設施資源有限的情況下具有高精度的專用系統的方法。