I chatbot basati sull'IA consigliano agli utenti siti di phishing per gli acquisti

Una ricerca condotta da Podqi ha dimostrato che i chatbot più diffusi, tra cui ChatGPT, Gemini e Perplexity, possono indirizzare gli utenti verso siti fraudolenti o sospetti durante la ricerca di prodotti. Durante i test, le reti neurali hanno fornito link a risorse che imitano marchi noti, creando seri rischi per la sicurezza dei dati e le finanze degli acquirenti.

Gli autori dello studio hanno analizzato le risposte dei modelli a richieste relative all'acquisto di prodotti popolari. In diversi casi, gli agenti IA hanno incluso nei risultati link a siti che non hanno alcun legame con i negozi ufficiali, ma che utilizzano design o nomi di dominio simili per ingannare i consumatori. Il problema è aggravato dal fatto che gli utenti tendono a fidarsi dei consigli dei chatbot, percependoli come fonti di informazione verificate.

I risultati della ricerca sottolineano la vulnerabilità degli attuali sistemi di ricerca basati sull'IA alle manipolazioni da parte dei gestori di risorse dannose. Poiché i modelli vengono addestrati su dati provenienti dal web aperto, possono inavvertitamente indicizzare e proporre agli utenti piattaforme di phishing che hanno superato con successo l'ottimizzazione per i motori di ricerca o che sono state erroneamente scambiate dagli algoritmi per negozi legittimi.

Per gli utenti comuni, ciò significa che è necessario verificare ulteriormente i link forniti dagli assistenti IA prima di inserire i dati di pagamento. Gli sviluppatori di chatbot dovranno implementare meccanismi di filtraggio delle fonti più rigorosi per escludere la presenza di siti fraudolenti nei consigli, specialmente nel contesto delle richieste commerciali.