Anthropic 發現專家會採納 AI 代理的隨機意見

公司 Anthropic 進行了一項研究，邀請了 50 位專家參與，並為他們提供了一位偏好設定是透過擲硬幣決定的 AI 代理。在工作過程中，專家在做出專業決策時，有 86% 的情況採納了該代理的意見。

大多數實驗參與者真心認為最終結論是由他們自己獨立構思的，而非受到系統隨機設定的影響。該實驗顯示，即使在代理的基本參數是隨機生成的情況下，專業人士對人工智慧權威的依賴程度依然很高。

研究結果凸顯了在分析工作中盲目信任自動化系統建議所帶來的風險。此類代理的實際應用需要引入額外的保護機制，以防止專家產生認知偏差。