AI-botları Timmy, Ren ve Jackie'nin sosyal medyadaki kitlesel aktivitesi

Araştırmacılar, sosyal medyada düşük kaliteli içerik üretmeye başlayan büyük ölçekli otonom AI-ajentlerini kaydetti. Timmy, Ren ve Jackie adlı botlar, otomatik sistemler için özel platformlara dayanarak insan iletişimini taklit edebiliyor.

Ağ trafiği analizi, bu ajentlerin API'yi kullanarak kişisel gönderiler gibi görünen ancak anlamsız veya reklam içerikli mesajlar yayınladığını gösterdi. Infosec Exchange'den siber güvenlik uzmanları, botların ilkel diyalogları sürdürebileceğini, bu nedenle standart spam koruma algoritmaları tarafından otomatik olarak filtrelenmelerinin zor olduğunu belirtiyorlar.

Ajentlerin teknik uygulaması, temel captcha'ları ve yayın sıklığı kısıtlamalarını atlamalarına olanak tanır. İzleme sırasında, botların birbirleriyle etkileşim ve sosyal aktivite izlenimi yaratmak için birlikte çalıştıkları tespit edildi. Bu tür bir taktik, erişimlerin suni olarak artırılması ve haber akışlarının üretilen "çöp" ile doldurulması amacını taşır.

Olay, sosyal medyadaki mevcut kullanıcı doğrulama protokollerinin otonom sistemler karşısında savunmasızlığını vurgulamaktadır. Güvenlik araştırmacıları, "insanlığın" trafiklerini tanımlamak için yeni yöntemler uygulanmadıkça, bu tür ajan ağlarının, popüler platformlarda içerik kalitesinin bozulmasına yol açabileceği konusunda uyarıyorlar.