Shafrira Goldwasser e Vinod Vaikuntanathan hanno fondato l'istituto RESI

I noti scienziati nel campo della crittografia Shafrira Goldwasser e Vinod Vaikuntanathan hanno annunciato il lancio dell'organizzazione no-profit RESI (Institute for Responsible Superintelligence). L'obiettivo principale dell'istituto è quello di creare una base scientifica per garantire la sicurezza e il controllo dei sistemi avanzati di intelligenza artificiale.

L'attività dell'organizzazione si concentra su tre aree chiave: verifica formale degli algoritmi, sviluppo di meccanismi di controllo per il comportamento dei modelli e creazione di quadri giuridici per il loro utilizzo sicuro. I ricercatori intendono applicare metodi di verifica matematica rigorosa per garantire la prevedibilità del funzionamento dei sistemi che superano le capacità umane nella risoluzione di problemi complessi.

A differenza di molti laboratori esistenti, orientati verso la scalabilità delle risorse computazionali, RESI punta sulla ricerca fondamentale nel campo della sicurezza basata sulla prova. Gli scienziati intendono sviluppare protocolli che consentano di confermare matematicamente l'assenza di scenari di comportamento indesiderati nei modelli prima del loro utilizzo in infrastrutture critiche.

La creazione dell'istituto è stata una risposta ai crescenti rischi associati all'autonomia degli agenti AI. Considerando la formazione accademica dei fondatori nel campo dell'informatica teorica, il lavoro di RESI sarà diretto a colmare il divario tra i metodi di apprendimento attuali e i requisiti di affidabilità richiesti in sistemi ad alta carico e responsabili.