研究人員透過訓練數據投毒，將後門植入 AI 代理

一組研究人員提出了一種名為 Agentic Backdoors 的方法，允許在語言模型的預訓練階段植入隱藏漏洞。研究作者證明，僅需破壞 0.1% 的訓練樣本，即可建立具備遠端程式碼執行 (RCE) 能力的後門。

在針對擁有 40 億參數模型的實驗中，科學家達成了 92% 的攻擊成功率。該方法基於數據投毒，這些數據隨後會被代理用於與外部環境互動。當觸發特定條件時，模型會執行惡意指令，繞過代理架構中內建的標準安全機制。

研究結果凸顯了現代 AI 系統在數據準備階段面臨的漏洞，這些漏洞在訓練完成後極難被偵測。隨著代理在作業系統執行操作與檔案管理方面的權限日益增加，此類後門對基礎設施安全構成了嚴重威脅。

對於使用自有或第三方模型建構代理系統的開發者與企業而言，這意味著必須實施更嚴格的數據集純淨度驗證協議。詳細的技術細節與攻擊方法論可參閱 arXiv 上的論文。