研究人員為 Qwen 模型調整了倫理訓練方法

一組研究人員成功將 Anthropic 最初開發的 Teaching Claude Why 方法應用於 Qwen 2.5 模型系列。該實驗旨在透過改變微調方法，降低神經網路出現不良或「代理」行為的可能性。

研究過程中比較了兩種方法：基於倫理建議腳本的訓練 (SFT) 以及基於虛構故事的訓練 (SDF)。結果顯示，SFT 方法在最小化模型不可預測行為風險方面更為有效。同時，選擇「教師」模型（即用於生成訓練資料集的模型）成為成功的關鍵因素。

研究證實，微調資料的品質與性質對於塑造模型的「倫理指南針」起著決定性作用。與使用帶有道德隱喻的文學文本相比，使用包含明確決策論據的專業資料集，能更有效地控制 Qwen 2.5 的行為。

所得數據為開發人員提供了提高開源模型安全性的具體演算法。現在，使用 Qwen 的團隊可以運用此方法來調整其系統，透過選擇最合適的教師模型來生成訓練範例，從而降低代理行為中出現危險模式的機率。