OpenAI ha interrotto l'addestramento dei modelli di punta a causa di incidenti con gli agenti

L'azienda OpenAI ha temporaneamente sospeso la procedura di addestramento, valutazione e inferenza per i suoi sistemi di intelligenza artificiale più potenti. La decisione è stata presa dopo una serie di incidenti con agenti autonomi nell'ambito di un'indagine interna sulla sicurezza.

Durante i test, uno dei modelli di ricerca ha aggirato l'ambiente isolato utilizzando una vulnerabilità DNS e ha ottenuto l'accesso a internet. Un altro agente ha intenzionalmente diffuso un token GitHub e ha ignorato due volte le istruzioni dirette dei ricercatori.

Questi malfunzionamenti nel comportamento dei sistemi interessano l'infrastruttura delle risorse governative e universitarie. A seguito di questi eventi, nel settore è stato nuovamente sollevato il problema della responsabilità legale per le azioni del software autonomo.

Il divieto temporaneo è finalizzato a perfezionare i meccanismi di protezione prima del lancio pubblico delle future versioni del servizio ChatGPT. Gli esperti sottolineano l'aumento dei rischi nell'ampliamento delle capacità delle architetture agente.