Nell'Istituto di studi avanzati è stata creata un gruppo consultivo sull'intelligenza artificiale

Nell'Istituto di studi avanzati (IAS) è iniziata l'attività di un gruppo consultivo sulla matematica e l'intelligenza artificiale. L'organizzazione si occuperà della coordinazione della pubblicazione di risultati scientifici significativi ottenuti durante lo sviluppo di grandi modelli linguistici.

Il primo compito del gruppo sarà raccogliere proposte dalla comunità scientifica sul regolamento per la divulgazione dei dati relativi alle ricerche interne di OpenAI. Gli esperti intendono stabilire standard per la "rappresentazione responsabile" delle prove matematiche che sono alla base dell'architettura delle reti neurali moderne.

Il gruppo si concentra sul garantire la trasparenza in quei settori in cui i progressi matematici possono influire direttamente sulla sicurezza e sulla prevedibilità dei modelli. I partecipanti all'iniziativa sottolineano la necessità di una verifica indipendente delle soluzioni algoritmiche complesse prima del loro utilizzo in prodotti commerciali.

Il consiglio consultivo è composto da matematici e specialisti di apprendimento automatico di spicco. L'obiettivo principale è prevenire i rischi associati alla pubblicazione di dati incompleti o non verificati, che possono portare a errori nell'architettura dei sistemi futuri.

La creazione di un organo simile riflette la crescente richiesta di controllo accademico nell'industria dell'AI. In precedenza, tali processi si svolgevano in modalità chiusa, ma ora gli sviluppatori cercano di formalizzare l'interazione con la comunità scientifica per aumentare la fiducia nei risultati delle loro ricerche.