OpenAI 解雇了在数据标注中使用 AI 的承包商

公司 OpenAI 解除了與一群員工的合約，這些員工使用第三方 AI 工具來完成模型訓練和標註任務。這起事件發生在一個旨在改善神經網路回答質量的計畫中，人們需要手動檢查和糾正生成的內容。

根據內部報告，承包商們使用自動化系統生成回答，然後將其當作自己的工作成果呈現。使用 AI 完成標註任務違反了公司的安全協議，因為這會導致合成數據出現在訓練樣本中，可能引發「模型崩潰」效應。

在 討論 中，專家們指出，類似的行為會降低基於人類反饋的強化學習（RLHF）的準確性。當模型在另一模型生成的數據上進行訓練時，它會繼承前者的錯誤和幻覺，使最終結果對終端用戶來說不夠可靠。

目前，OpenAI 加強了對數據驗證過程的控制。公司要求所有與質量評估相關的訓練階段都必須由人類參與，以排除未來模型版本因「訓練數據污染」而惡化的風險。