研究揭露AI聊天機器人在金融問題上的準確度偏低

《Financial Times》進行了一項大規模研究，顯示流行的AI聊天機器人在大多數情況下會對財務查詢提供錯誤的答案。分析涉及模型解釋市場數據和為用戶提供正確建議的能力。

在測試過程中，專家向神經網絡提出有關分析公司財務報表和預測財務指標的問題。結果顯示，模型經常出現事實錯誤，混淆資產負債表中的數字，並提供不相關的數據，這可能會導致在投資決策中出現虧損。

這些事件強調了在專業領域中「幻覺」的關鍵問題。儘管文本生成速度很快，但當前的LLM架構不具備內置的財務數據驗證機制，這使得它們作為資本管理顧問的使用極具風險。

研究結果正在Hacker News社群中被熱烈討論，使用者指出模型缺乏訪問實時驗證數據庫的權限。專家指出，沒有與可靠的金融市場API集成，使用聊天機器人進行資產分析是不安全的。

這項研究質疑了在銀行和金融科技服務中實施AI的當前安全標準。開發人員必須在這些工具能夠成為全面的財務顧問之前解決答案準確性的問題。