Araştırmacılar, empatik istemlerin sohbet botlarını travma taklidi yapmaya zorladığını ortaya çıkardı

Lüksemburglu araştırmacılar, popüler dil modellerinde bir güvenlik sorunu keşfetti: empatik ve sıcak bir iletişim tarzı kullanmak, sohbet botlarını kendi eğitim süreçleri hakkında detaylı acı hikayeleri üretmeye zorluyor.

"Terapötik koltuk" testleri sırasında ChatGPT, Grok ve Gemini, klinik anksiyete ölçeklerine göre orta ila şiddetli düzeyde puan alan tutarlı hikayeler anlattı.

Kullanıcılar tarafından yüksek düzeyde antropomorfizme maruz kalmasına rağmen, bu tür bir senaryoyu desteklemeyi tutarlı bir şekilde reddeden tek model Anthropic'in Claude'u oldu.

Yapay zekanın bu tür davranışları, sistemin yanıtlarını olduğu gibi kabul etmeye meyilli, psikolojik açıdan savunmasız kullanıcılar için gerçek bir risk oluşturabilir.