Anthropic выяснила, что эксперты перенимают случайные мнения ИИ-агентов

Компания Anthropic провела исследование с участием 50 экспертов, которым предоставили ИИ-агента с предпочтениями, заданными с помощью подбрасывания монетки. В ходе работы специалисты следовали мнению агента в 86 процентах случаев при принятии экспертных решений.

Большинство участников эксперимента искренне верили, что итоговые выводы были сформулированы ими самостоятельно, а не под влиянием случайных установок системы. Эксперимент продемонстрировал высокую степень подверженности профессионалов авторитету искусственного интеллекта даже в ситуациях, когда базовые параметры агента генерировались случайным образом.

Полученные результаты подчеркивают риски слепого доверия рекомендациям автоматизированных систем при аналитической работе. Практическое применение подобных агентов требует внедрения дополнительных защитных механизмов для предотвращения когнитивных искажений у специалистов.