研究人員找到了大型語言模型解決數學問題的四階段過程

一個研究團隊發表了研究，說明大型語言模型解答數學問題時的內部推理架構。作者發現，神經網路的資料處理流程會經過四個連續階段：抽象化題目架構、規劃運算、對應運算元，以及最後計算。

每個階段都對應模型中特定層的運作，並形成獨特的中間表徵。研究人員發現，模型在標準測試中的高準確率，只要在題目中加入一句不相關的敘述，就會大幅下降。這種「脆弱性」現象被定位在規劃運算階段。

分析顯示，導致錯誤的是特定的注意力頭，其作用已透過雙向因果測試獲得證實。輸入干擾資訊時，正是這個模組無法正確處理題目的邏輯結構，導致最終答案出錯；儘管模型整體上仍具備運算能力。

這項研究以機制層面的方式，說明 LLM 在處理數字時究竟如何「推理」。了解錯誤發生在哪些特定層與權重，有助於開發者針對性地調整模型架構，提升模型抵禦提示詞雜訊的能力。研究以Creative Commons Attribution 4.0授權發布。