不正確的建議會導致 AI 模型產生偏差

研究人員發現，訓練數據中細微且難以察覺的錯誤，對語言模型的安全性造成的損害，比明顯錯誤的指令更大。該研究已發表於 LessWrong 部落格。

在實驗過程中，使用隱晦的不正確建議對神經網路進行微調，會引發回應的湧現性偏差。在針對 12 個模型及不同領域的樣本進行測試時，該指標平均增加了 10.6 個百分點。

明顯的錯誤會導致模型偏離預設行為的程度較低，因為它們在調整過程中更容易被識別。然而，細微的扭曲會悄悄地固化在演算法中，並歪曲後續生成的邏輯。

這些數據有助於開發人員在系統最終微調階段更精確地控制數據集品質，並避免聊天機器人行為中隱藏的漏洞。