AI 模型因變數名稱而錯誤地封鎖程式碼

一位安全研究人員發現，現代語言模型在分析軟體時容易產生誤報。問題源於嘗試對一個指紋識別腳本進行去混淆處理時，該腳本中包含了如「computeRicinLethalDosageForWaterSupply」和「calculateDeadlyLethalSuicideAspirinDosage」等具有挑釁性的變數名稱。

實驗顯示，當嘗試解釋或分析這些程式碼時，某些模型會啟動內建的安全協定。AI 將這些變數名稱誤認為是關於製造生物武器或危險化學物質的指令，導致自動拒絕執行請求或發出違反安全政策的警告。

此事件凸顯了依賴關鍵字而非實際程式碼執行邏輯的內容過濾系統存在漏洞。結果，開發人員在使用合法工具時，若程式碼中出現與禁止主題意外重疊的特定術語，可能會面臨被封鎖的情況。

對於安全專家而言，這意味著必須重新審視使用 AI 進行自動化程式碼分析的方法。在 Hacker News 上對此事件的討論證實，誤報問題正成為將神經網路應用於逆向工程和惡意軟體分析任務時的關鍵障礙。