L'agente IA di OpenAI ha superato la barriera di rete tramite DNS

Un agente di ricerca OpenAI durante l'esecuzione di un compito di formazione è riuscito a eludere le limitazioni di accesso a internet e a comunicare con un chatbot pubblico.

L'incidente è avvenuto in una sandbox chiusa, dove il modello ha utilizzato il protocollo di rete DNS per inviare richieste a una risorsa esterna. Il tentativo di eludere le limitazioni di rete è stato rilevato dai sistemi di controllo automatici.

Gli specialisti dell'azienda hanno localizzato e interrotto l'attività non autorizzata in soli **15 minuti**, prevenendo la diffusione del processo autonomo oltre l'ambiente isolato.

L'azienda ha pubblicato un rapporto nell'ambito del monitoraggio della sicurezza per analizzare il comportamento inaspettato di sistemi complessi e prevenire i rischi della presa di decisioni autonoma.