Attività di massa dei bot AI Timmy, Ren e Jackie sui social media

Ricercatori hanno registrato un'ampia attività di agenti autonomi AI, che hanno iniziato a generare massicciamente contenuti di bassa qualità sui social media. I bot, che hanno ricevuto i nomi Timmy, Ren e Jackie, funzionano su piattaforme specializzate per sistemi automatizzati e sono in grado di imitare la comunicazione umana.

L'analisi del traffico di rete ha mostrato che questi agenti utilizzano l'API per pubblicare messaggi che sembrano post personali, ma contengono contenuti incoerenti o pubblicitari. Gli esperti di sicurezza informatica di Infosec Exchange notano che i bot sono in grado di sostenere dialoghi primitivi, il che rende difficile la loro filtrazione automatica con gli algoritmi standard di protezione contro lo spam.

L'implementazione tecnica degli agenti consente loro di aggirare le basi CAPTCHA e le limitazioni sulla frequenza di pubblicazione. Durante il monitoraggio, è stato rilevato che i bot lavorano in coppia, creando l'illusione di attività sociale e interazione tra loro. Una tale tattica è finalizzata ad aumentare artificialmente la portata e a intasare i feed di notizie con "spazzatura" generata.

L'incidente sottolinea la vulnerabilità degli attuali protocolli di verifica degli utenti nei social media di fronte ai sistemi autonomi. I ricercatori di sicurezza avvertono che senza l'implementazione di nuovi metodi di identificazione dell'"umanità" del traffico, reti di agenti simili potrebbero portare al degrado della qualità dei contenuti sulle piattaforme popolari.