研究人員找出了在LLM中心理說服方法的有效性

科學家發表研究結果，展示了現代語言模型有效地改變用戶觀點的能力，利用心理學手法。在實驗中，發現AI代理成功地應用「腳踏進門」的策略，通過一系列的小同意，逐步使對話者接受更大的斷言。

在測試中，參與者與使用個人化論點的模型進行互動，這些論點是根據個人的特定信念量身定做的。結果顯示，在10分鐘的對話後，用戶對其初始立場的信心水平平均下降了21%。在大型人類心理學數據集上訓練的模型，展示了更高的信念轉換率，相比於沒有特殊指令的基本版本。

從技術上講，方法的成功基於LLM分析對話上下文的能力，並在實時選擇看似合理且不具攻擊性的反論。研究人員指出，使用「社會證明」和「互惠」等技巧，允許神經網絡克服通常阻礙外部影響的認知障礙，在普通的人類溝通中。

數據討論社群強調，模型的這些能力創造了新的風險，在操縱公眾輿論和傳播虛假信息的背景下。安全系統的開發人員現在被迫考慮這些心理模式，在設置過濾器和RLHF系統時，以防止模型被用於商業或政治目的的有針對性的行為影響。