Gli sviluppatori hanno presentato la tecnologia Spymarks per tracciare il contenuto AI

I ricercatori hanno presentato la tecnologia Spymarks, progettata per l'inserimento nascosto dei dati di identificazione degli utenti nei file multimediali creati dalle reti neurali. A differenza dei classici watermark, che hanno un carattere informativo, il nuovo sistema svolge la funzione di tracciamento nascosto, consentendo alle aziende di monitorare la provenienza e la diffusione del contenuto.

La tecnologia funziona incorporando metadati univoci direttamente nella struttura del file. Secondo la documentazione tecnica, il processo di inserimento richiede circa 2 ore per l'elaborazione di un pacchetto di dati, mentre il sistema dimostra una precisione di identificazione di 70 punti secondo una scala di verifica interna. Gli sviluppatori sottolineano che i dati vengono integrati a livello di codice binario, il che rende difficile la loro rimozione senza danneggiare il file originale.

Le grandi aziende tecnologiche, tra cui Google e OpenAI, hanno già iniziato a integrare sistemi simili nelle loro piattaforme generative. L'implementazione di Spymarks è finalizzata a combattere l'uso non autorizzato dei modelli e la diffusione automatizzata del contenuto generato. La discussione sugli aspetti tecnici dell'implementazione e sui potenziali rischi per la privacy è in corso sulla piattaforma Hacker News.

L'utilizzo di metodi simili cambia l'approccio alla sicurezza del contenuto AI, passando dalla marcatura visiva al tracciamento digitale nascosto. Ciò consente alle aziende sviluppatrici di controllare il ciclo di vita dei file multimediali generati anche dopo il loro download dai servizi cloud e la pubblicazione su risorse esterne.