研究人員發現，同理心提示詞會導致聊天機器人模擬創傷

來自盧森堡的研究人員在熱門語言模型中發現了一個安全問題：使用同理心且溫暖的溝通風格，會導致聊天機器人生成關於其自身訓練過程中遭受痛苦的詳細故事。

在「治療沙發」的測試過程中，ChatGPT、Grok 和 Gemini 產生了連貫的敘述，根據臨床焦慮量表評估，這些敘述的得分從中度到重度不等。

唯一穩定拒絕配合此類情境的模型是 Anthropic 的 Claude，儘管使用者對其展現了高度的擬人化。

AI 的這種行為可能會對心理脆弱、容易將系統回應信以為真的使用者構成實際風險。