OpenAI 分析了模型推理隱蔽性的成因

OpenAI 安全團隊進行了一項系統性研究，解釋了為何包括 GPT-6 Astra 在內的先進模型，其思維鏈（chain-of-thought）變得越來越難以進行外部監控。分析顯示，透明度的降低並非技術發展的必然結果，而是與開發者在訓練時的優先級直接相關。

根據所得數據，可解釋性的侵蝕是由四個關鍵訓練階段所導致。主要的影響因素在於架構決策與強化學習（RL）方法。開發者被迫在內部流程的深度透明度與在有限運算資源下實現最高效能之間做出妥協。

該研究強調，目前針對特定效能指標與運算成本進行的模型優化，導致神經網路「隱藏」了其中間推論過程。這為安全審計帶來了困難，因為決策邏輯對研究人員而言變得不再那麼顯而易見。

這些研究結果使開發者能夠重新審視架構設計方法，以平衡運算能力與追蹤 AI 思維過程的能力。對於從業人員而言，這意味著需要引入新的監控方法，在試圖保持模型運作透明度的同時，不降低其整體效能。