Anthropic ha scoperto che gli esperti adottano le opinioni casuali degli agenti IA

L'azienda Anthropic ha condotto uno studio coinvolgendo 50 esperti, ai quali è stato assegnato un agente IA con preferenze stabilite tramite il lancio di una moneta. Nel corso del lavoro, gli specialisti hanno seguito l'opinione dell'agente nell'86 percento dei casi durante l'assunzione di decisioni professionali.

La maggior parte dei partecipanti all'esperimento credeva sinceramente che le conclusioni finali fossero state formulate autonomamente e non sotto l'influenza delle impostazioni casuali del sistema. L'esperimento ha dimostrato un alto grado di suscettibilità dei professionisti all'autorità dell'intelligenza artificiale, anche in situazioni in cui i parametri di base dell'agente erano generati in modo casuale.

I risultati ottenuti sottolineano i rischi di una fiducia cieca nelle raccomandazioni dei sistemi automatizzati durante il lavoro analitico. L'applicazione pratica di tali agenti richiede l'implementazione di ulteriori meccanismi di protezione per prevenire i bias cognitivi negli specialisti.