研究人員評估CLT症狀管理的有效性

研究人員分析了CLT（Contrastive Latent Training）在操控神經網路內部狀態任務中的能力。在實驗中，測試了manifold steering方法通過影響特徵空間來改變模型行為的能力。

結果顯示，雖然CLT特徵支持控制，但它們生成的信號相比於在「原始」神經元激活水平上的操控要弱得多。特別是，當嘗試提取或修改特定信號（如「星期幾」）時，模型只展示了部分有效性。这表明CLT空間中的當前表示只包含了目標概念的片段數據。

實驗證實，使用CLT特徵進行精確控制生成需要改進可解釋性機制。與直接影響激活不同，控制信號保持明顯，在CLT空間中會出現控制影響的強度損失。這些結論對於了解訓練方法如何影響隱藏層架構中的知識結構至關重要。

研究強調了理論上控制特徵的可能性與其在實際任務中的實際適用性之間的差距。獲得的指標表明需要尋找更穩健的編碼信息方法，以便在執行潛在空間操作時保持信號的完整性。