Google AI Studio elimina in modo errato i dati degli utenti

Un ricercatore di sicurezza ha scoperto una vulnerabilità critica nel funzionamento di Google AI Studio, legata al processo di cancellazione dei dati. Si è scoperto che quando si preme il pulsante di cancellazione, il sistema non cancella le informazioni dai server, ma sposta solo il file locale .json nel cestino di Google Drive.

Questo approccio consente di ripristinare i dati cancellati e di caricarli nuovamente nell'ambiente di lavoro. Il tentativo di segnalare questo errore attraverso il programma Vulnerability Reward Program (VRP) ha portato alla blocco automatico dell'account del ricercatore in 60 secondi. L'incidente ha suscitato un ampio dibattito nella comunità di Hacker News, dove gli utenti discutono dei rischi per la privacy quando si lavora con strumenti AI basati su cloud.

L'implementazione tecnica della cancellazione si è rivelata formale: i file mantengono la loro integrità e accessibilità per il proprietario dell'account anche dopo l'esecuzione del comando "cancella". Ciò mette in discussione la conformità della piattaforma agli standard di elaborazione dei dati, in particolare nel contesto dell'addestramento dei modelli su contenuti utente.

La situazione evidenzia i problemi dei sistemi di moderazione automatizzati e dell'elaborazione dei rapporti sulle vulnerabilità nelle grandi aziende tecnologiche. La mancanza di trasparenza nei processi di cancellazione dei dati crea rischi per gli utenti che affidano informazioni confidenziali ai servizi cloud.