Чат-боты с ИИ рекомендуют пользователям фишинговые сайты для покупок

Исследование компании Podqi показало, что популярные чат-боты, включая ChatGPT, Gemini и Perplexity, при поиске товаров могут направлять пользователей на мошеннические или подозрительные сайты. В ходе тестирования нейросети выдавали ссылки на ресурсы, имитирующие известные бренды, что создает серьезные риски для безопасности данных и финансов покупателей.

Авторы работы проанализировали ответы моделей на запросы, связанные с покупкой популярных товаров. В ряде случаев ИИ-агенты включали в выдачу ссылки на сайты, которые не имеют отношения к официальным магазинам, но используют схожий дизайн или доменные имена для введения потребителей в заблуждение. Проблема усугубляется тем, что пользователи склонны доверять рекомендациям чат-ботов, воспринимая их как проверенные источники информации.

Результаты исследования подчеркивают уязвимость текущих систем поиска на базе ИИ перед манипуляциями со стороны владельцев вредоносных ресурсов. Поскольку модели обучаются на данных из открытого интернета, они могут непреднамеренно индексировать и предлагать пользователям фишинговые площадки, которые успешно прошли поисковую оптимизацию или были ошибочно приняты алгоритмами за легитимные магазины.

Для обычных пользователей это означает необходимость дополнительной проверки ссылок, предоставляемых ИИ-помощниками, перед вводом платежных данных. Разработчикам чат-ботов предстоит внедрить более строгие механизмы фильтрации источников, чтобы исключить попадание мошеннических сайтов в рекомендации, особенно в контексте коммерческих запросов.