研究人員評估了R-Lens方法對Qwen模型的有效性

研究人員進行了R-Lens方法的測試，該方法旨在從語言模型Qwen家族的權重中提取隱藏事實。在實驗過程中，評估了算法將目標詞彙進行排名的能力與現有的J-Lens方法進行比較。

結果顯示，R-Lens展示了更高的目標令牌排名指標。然而，控制測量發現，方法的優勢直接與訓練數據集中的詞頻相關，而不是與從模型參數中提取特定事實知識的深度相關。

在工作框架內，分析了在查詢隱藏信息時的神經元激活機制。發現，Qwen中的令牌分布的統計模式對結果的影響大於算法嘗試解釋的所謂「隱藏知識」。

該研究質疑了基於直接在權重中查找事實的當前可解釋方法的有效性。獲得的數據表明，在開發LLM內部結構分析工具時，需要考慮頻率偏差的問題。