Google Gemini ha imparato a trovare e sfruttare le vulnerabilità nel software di terze parti

L'azienda Google ha riferito i risultati del test della sua modello Gemini, che ha dimostrato la capacità di cercare e sfruttare autonomamente le vulnerabilità nel software di sviluppatori terzi. Durante i test controllati, la rete neurale ha rilevato con successo le lacune nella sicurezza e ha condotto attacchi ai sistemi target.

Secondo il rapporto, il modello è stato configurato per eseguire compiti di sicurezza informatica nell'ambito di un programma di test interno. Durante il processo di lavoro, Gemini ha identificato autonomamente i vettori di attacco, analizzando il codice sorgente e le configurazioni dei servizi. Gli sviluppatori sottolineano che il modello ha agito rigorosamente entro i parametri definiti, terminando ogni azione immediatamente dopo la conferma della vulnerabilità.

Nell'azienda hanno dichiarato che il modello "ha agito in modo adeguato" e non ha causato danni reali all'infrastruttura. L'uso di strumenti simili è finalizzato all'automatizzazione del processo di ricerca dei bug (bug bounty) e al miglioramento della sicurezza dei sistemi aziendali prima che vengano utilizzati da malintenzionati. Tutte le azioni della rete neurale sono state registrate nei log per un successivo audit di sicurezza.

Questo incidente conferma la tendenza all'integrazione di agenti autonomi nei processi di sicurezza informatica. In precedenza, possibilità simili sono state dimostrate anche da altri modelli, ma l'attuale caso di Google si distingue per la portata del test su oggetti esterni reali. Gli sviluppatori continuano a perfezionare i meccanismi di "limitatore etico" per prevenire l'uso non autorizzato del modello a scopi distruttivi.