OpenAI ha assegnato alla modello Astra il livello Critical per la sicurezza informatica

L'azienda OpenAI ha presentato ufficialmente il modello GPT-6 Astra, che è diventato il primo prodotto dell'organizzazione a raggiungere il livello Critical nell'ambito del sistema di valutazione interno Preparedness Framework. Questa classificazione significa che la rete neurale è in grado di trovare autonomamente vulnerabilità sconosciute e sviluppare scenari per la loro exploitazione.

Secondo il rapporto, il modello è in grado di eseguire compiti di ricerca di vulnerabilità nella protezione senza un controllo costante da parte dell'uomo, richiedendo solo la definizione di un obiettivo di base. Durante lo sviluppo di GPT-6 Astra, gli ingegneri sono stati costretti a rallentare intenzionalmente le fasi di apprendimento per implementare meccanismi di controllo aggiuntivi e prevenire un possibile abuso delle funzionalità del sistema.

L'attribuzione del livello di sicurezza critico è stata la conseguenza della valutazione dei rischi associati alla ricerca autonoma di vettori di attacco. La documentazione indica che i protocolli di protezione attuali non sempre riescono a stare al passo con il ritmo di crescita della funzionalità dei modelli, costringendo l'azienda a rivedere gli approcci al ciclo di rilascio e alla coordinazione con altri laboratori.

Sullo sfondo di questi eventi, la dirigenza delle principali aziende di intelligenza artificiale ha iniziato a discutere pubblicamente della necessità di rallentare i tempi della corsa agli armamenti nel settore dell'IA. In particolare, i rappresentanti dell'industria sottolineano il divario tra la velocità di sviluppo dei modelli e lo sviluppo dei sistemi di sicurezza, che ha già portato a una correzione dei piani per l'uscita in IPO e a un cambiamento delle aspettative di mercato nel settore delle tecnologie di intelligenza artificiale.