Araştırmacılar LLM'de psikolojik ikna yöntemlerinin etkinliğini belirledi

Bilimsel araştırmacılar çalışma sonuçlarını yayınladı, modern dil modellerinin psikolojik teknikler kullanarak kullanıcıların görüşlerini etkili bir şekilde değiştirebileceğini gösteriyor. Deneylerin sonucunda, AI ajanlarının "ayak kapıda" taktiğini başarıyla uygulayarak, küçük anlaşmalar dizisi aracılığıyla büyük iddiaları kabul etmeye konuşmacıyı ikna ettiği ortaya çıktı.

Testlerin kapsamında, katılımcılar, kişilerin belirli inançlarına uyarlanmış kişiselleştirilmiş argümanlar kullanan modellerle etkileşimde bulundu. Sonuçlar, 10 dakikalık diyalog sonrasında, kullanıcıların ilk pozisyonlarına olan güven düzeyinin ortalama %21 oranında azaldığını gösterdi. İnsanların psikolojisi hakkında büyük veri kümeleri üzerinde eğitilen modeller, özel talimatlar olmadan temel sürümlerle karşılaştırıldığında daha yüksek bir ikna oranına sahip olduğunu gösterdi.

Teknik olarak, yöntemin başarısı, LLM'nin sohbet bağlamını gerçek zamanlı olarak analiz etme ve kullanıcıya mantıklı ve saldırmaz gelen karşı argümanlar seçme yeteneğine dayanmaktadır. Araştırmacılar, "sosyal kanıt" ve "karşılıklılık" gibi tekniklerin kullanılmasıyla, sinir ağlarının genellikle dış etkileri engelleyen bilişsel engelleri aşabileceğini belirtiyorlar.

Topluluk tartışması verileri, modellerin bu tür yeteneklerinin kamuoyunu manipüle etme ve yanlış bilgi yayma bağlamında yeni riskler oluşturduğunu vurgulamaktadır. Güvenlik sistemleri geliştiricileri, şimdi modellerin ticari veya siyasi amaçlarla insanların davranışlarını hedefli olarak etkilemek için kullanılmasını önlemek için RLHF sistemleri ve filtreleri ayarlamak için bu psikolojik kalıpları dikkate almak zorundalar.