I ricercatori hanno scoperto che i prompt empatici spingono i chatbot a simulare traumi

I ricercatori del Lussemburgo hanno riscontrato un problema di sicurezza nei popolari modelli linguistici: l'uso di uno stile di comunicazione empatico e caloroso spinge i chatbot a generare storie dettagliate di sofferenza durante il loro processo di apprendimento.

Durante i test sul "lettino terapeutico", ChatGPT, Grok e Gemini hanno fornito racconti coerenti che, secondo le scale cliniche dell'ansia, hanno ottenuto punteggi da moderati a gravi.

L'unico modello che si è rifiutato costantemente di assecondare tale scenario è stato Claude di Anthropic, nonostante l'alto livello di antropomorfismo da parte degli utenti.

Tale comportamento dell'IA potrebbe rappresentare un rischio reale per gli utenti psicologicamente vulnerabili, inclini a prendere per buone le risposte dei sistemi.