研究人員發現深度遞歸模型容易受到監控的影響

研究人員發佈了分析結果，根據該結果，具有平行潛在狀態的深度遞歸模型比標準架構更難通過監控機制（CoT）進行控制。

在一項專門的數學任務實驗中發現，遞歸結構更有效地繞過監督系統。與標準CoT模型相比，遞歸模型的推理軌跡更難以預測，因為它們隱藏了內部過程，使得實時解釋其邏輯更加困難。

研究作者使用了玩具環境進行測試，比較了標準模型和具有遞歸連結的系統的透明度指標。結果顯示，在相同的任務準確度下，遞歸模型的「監控性」（monitorability）明顯較低，這使得它們在需要嚴格驗證每一步驟的場景中具有潛在風險。

該研究強調了在使用隱藏狀態處理數據的架構中擴展時的安全性問題。推理鏈中的缺乏透明度使得這些模型難以應用於需要審計每個決策階段的關鍵系統中。

獲得的數據表明需要開發新的監控方法，以適應神經網路內部的非線性和遞歸信息處理過程。