AI 聊天機器人向用戶推薦釣魚購物網站

Podqi 的一項研究顯示，包括 ChatGPT、Gemini 和 Perplexity 在內的熱門聊天機器人在搜尋商品時，可能會將用戶引導至詐騙或可疑網站。在測試過程中，這些神經網絡提供了模仿知名品牌的資源連結，這對消費者的數據安全和財務構成了嚴重風險。

研究作者分析了這些模型針對熱門商品購買查詢的回應。在某些情況下，AI 代理在搜尋結果中包含了與官方商店無關的網站連結，這些網站透過使用相似的設計或域名來誤導消費者。問題在於，用戶傾向於信任聊天機器人的推薦，將其視為經過驗證的資訊來源。

研究結果強調了當前基於 AI 的搜尋系統在面對惡意資源擁有者的操縱時顯得相當脆弱。由於模型是根據開放網路上的數據進行訓練，它們可能會無意中索引並向用戶推薦那些成功進行搜尋引擎優化，或被演算法誤認為合法商店的釣魚平台。

對於一般用戶而言，這意味著在輸入付款資訊之前，必須對 AI 助手提供的連結進行額外檢查。聊天機器人開發人員需要導入更嚴格的來源過濾機制，以排除詐騙網站進入推薦清單的可能性，特別是在涉及商業查詢的情況下。