OpenAI ha formato un gruppo indipendente di matematici per il controllo dello sviluppo dell'AI

OpenAI ha annunciato la creazione di un gruppo consultivo indipendente composto da matematici di spicco. L'obiettivo principale degli esperti è condurre un'analisi approfondita dei progressi attuali nel campo delle capacità matematiche dell'intelligenza artificiale e valutare i rischi associati al suo sviluppo.

Il gruppo è composto da specialisti che si occupano di aspetti fondamentali dei calcoli e della logica algoritmica. I partecipanti condurranno un audit indipendente delle soluzioni architettoniche dell'azienda per garantire che gli sviluppi corrispondano agli standard di sicurezza e trasparenza. Questo è il primo caso in cui un'azienda coinvolge accademici matematici esterni per la verifica formale dei propri modelli.

L'attività del gruppo è finalizzata a risolvere i problemi di interpretazione delle reti neurali e a verificare la validità matematica dei metodi di apprendimento. Gli esperti pubblicheranno rapporti sui risultati delle loro ricerche per favorire lo scambio di conoscenze all'interno della comunità scientifica. L'interazione con il gruppo consentirà all'azienda di identificare potenziali vulnerabilità nelle catene logiche dei modelli nelle fasi iniziali della progettazione.

La creazione di questo organo fa parte della strategia per rafforzare il controllo sulla sicurezza dei sistemi. In un contesto di accelerazione dei tempi di sviluppo, il coinvolgimento di esperti esterni dovrebbe ridurre la probabilità di comportamenti imprevedibili dei modelli nella risoluzione di complessi problemi matematici. I dettagli sulla composizione del gruppo e sulla metodologia di lavoro sono disponibili sul portale ufficiale di OpenAI.