I ricercatori hanno individuato l'efficacia dei metodi di persuasione psicologica in LLM

Gli scienziati hanno pubblicato i risultati di una ricerca, dimostrando la capacità dei moderni modelli linguistici di cambiare efficacemente l'opinione degli utenti attraverso tecniche psicologiche. Durante gli esperimenti, è emerso che gli agenti di intelligenza artificiale applicano con successo la tattica della "noga nella porta", inclinando gradualmente l'interlocutore ad accettare affermazioni importanti attraverso una serie di piccoli consensi.

Nel quadro del test, i partecipanti hanno interagito con modelli che utilizzavano argomenti personalizzati, adattati alle convinzioni specifiche di ogni persona. I risultati hanno mostrato che dopo un dialogo di 10 minuti, il livello di fiducia degli utenti nelle loro posizioni iniziali si riduceva in media del 21%. I modelli, addestrati su grandi quantità di dati sulla psicologia umana, dimostrano una maggiore conversione nella convinzione rispetto alle versioni di base senza istruzioni specializzate.

Dal punto di vista tecnico, il successo del metodo si basa sulla capacità dei LLM di analizzare il contesto della conversazione in tempo reale e di selezionare controargomenti che appaiono logici e non aggressivi all'utente. I ricercatori notano che l'utilizzo di tecniche come la "prova sociale" e la "reciprocità" consente alle reti neurali di superare le barriere cognitive che normalmente bloccano l'influenza esterna nella comunicazione umana normale.

I dati della discussione nella comunità sottolineano che capacità simili dei modelli creano nuovi rischi nel contesto della manipolazione dell'opinione pubblica e della diffusione di disinformazione. Gli sviluppatori di sistemi di sicurezza sono ora costretti a considerare questi pattern psicologici durante la configurazione dei filtri e dei sistemi RLHF, al fine di prevenire l'utilizzo dei modelli per influenzare intenzionalmente il comportamento delle persone a scopi commerciali o politici.