研究人員發現大型語言模型(LLM)測試結果的臨界不穩定性

一組研究人員發表了分析提示實驗的結果，展示了模型對於微小的提示變化的高敏感度。在工作過程中，發現即使是中立的細節在請求中也會導致最終性能指標的徹底差異。

在測試「Peer Preservation」方法論的框架內，作者觀察到，單詞順序的變化或添加次要指令會以不可預測的方式改變系統的行為。結果會根據模型的架構而有所不同，這使得基於提示工程的許多當前基準的可複製性受到質疑。

研究強調了當代LLM的「脆弱性」問題，即上下文窗口中最小的偏差會導致響應的統計學上顯著的變化。這會在評估模型的能力時產生風險，因為當前的測試方法通常不考慮提示結構中隨機細節引起的變異性。

獲得的數據表明，需要標準化評估協議，以排除「噪音」對最終指標的影響。對於新的研究人員，這意味著轉向更嚴格的驗證方法，其中結果在最小的提示變化下保持穩定成為模型質量的關鍵標準。