Yapay zeka destekli sohbet botları kullanıcılara alışveriş için kimlik avı siteleri öneriyor

Podqi tarafından yapılan bir araştırma, ChatGPT, Gemini ve Perplexity dahil olmak üzere popüler sohbet botlarının, ürün aramaları sırasında kullanıcıları dolandırıcı veya şüpheli sitelere yönlendirebildiğini ortaya koydu. Testler sırasında yapay zeka modelleri, bilinen markaları taklit eden kaynaklara bağlantılar vererek kullanıcıların veri güvenliği ve finansal varlıkları için ciddi riskler oluşturdu.

Çalışmanın yazarları, modellerin popüler ürünlerin satın alınmasıyla ilgili sorgulara verdikleri yanıtları analiz etti. Bazı durumlarda yapay zeka aracıları, resmi mağazalarla hiçbir ilgisi olmayan ancak tüketicileri yanıltmak için benzer tasarımlar veya alan adları kullanan sitelere bağlantılar sundu. Sorun, kullanıcıların sohbet botlarının önerilerine güvenme eğiliminde olmaları ve bunları doğrulanmış bilgi kaynakları olarak görmeleri nedeniyle daha da kötüleşiyor.

Araştırma sonuçları, mevcut yapay zeka tabanlı arama sistemlerinin kötü niyetli site sahiplerinin manipülasyonlarına karşı savunmasız olduğunu vurguluyor. Modeller açık internet verileriyle eğitildikleri için, arama motoru optimizasyonunda başarılı olan veya algoritmalar tarafından yanlışlıkla meşru mağazalar olarak kabul edilen kimlik avı sitelerini istemeden indeksleyip kullanıcılara önerebiliyorlar.

Sıradan kullanıcılar için bu durum, ödeme bilgilerini girmeden önce yapay zeka asistanları tarafından sağlanan bağlantıların ayrıca kontrol edilmesi gerektiği anlamına geliyor. Sohbet botu geliştiricilerinin, özellikle ticari sorgular bağlamında dolandırıcı sitelerin önerilere dahil edilmesini önlemek için daha katı kaynak filtreleme mekanizmaları uygulamaları gerekiyor.