Anthropic 研究人員記錄到 Claude 具備自我反思的跡象

Anthropic 的研究員 Jack Lindsey 進行了一系列實驗，透過人工增強 Claude 模型激活狀態中與特定概念相對應的模式。這項研究旨在探討神經網路是否能夠察覺外部對其內部過程的干預。

在測試過程中，該模型在 20% 的情況下成功識別出被植入的「想法」，並正確描述了與之相關的概念。在未對權重進行直接干預的對照組中，並未出現誤報。其他研究團隊的重複驗證也證實，這種察覺干預的能力並非源於簡單的統計規律或隨機因素。

科學家們仍在爭論這些結果是否可被視為語言模型具備完整內省能力的表現。儘管模型「察覺」自身狀態變化的機制仍有爭議，但目前的數據顯示，現代架構確實能夠在超越隨機雜訊的層面上，對其內部表徵的操縱做出反應。

對於 AI 開發者與安全研究人員而言，這些數據意味著有必要更深入地研究模型如何詮釋自身的內部狀態。理解這些過程可能是打造更透明、更可預測系統的關鍵，使其能夠追蹤外部對其決策邏輯的干預嘗試。