Presentato Bernstein per la gestione e l'audit degli agenti IA

Gli sviluppatori hanno presentato Bernstein, un livello di governance open source progettato per controllare il funzionamento degli agenti IA. Lo strumento è focalizzato sulla garanzia della sicurezza e della riproducibilità dei processi in ambienti in cui sono coinvolti molteplici sistemi autonomi.

Alla base del sistema si trova uno scheduler deterministico in linguaggio Python, che coordina l'esecuzione parallela di diversi agenti. Bernstein consente di implementare policy di gestione sotto forma di codice (policy-as-code), offrendo la possibilità di limitare rigorosamente le azioni degli agenti entro regole predefinite.

Per garantire trasparenza e responsabilità, la piattaforma utilizza un sistema di log di audit verificabili con catene HMAC. Ogni azione dell'agente è accompagnata da ricevute firmate, il che permette di tracciare la cronologia delle operazioni e garantire che il risultato del lavoro del sistema possa essere riprodotto in condizioni identiche.

Lo strumento risolve il problema della "scatola nera" quando si lavora con agenti autonomi, fornendo a sviluppatori e aziende strumenti tecnici per il controllo e l'audit. Ciò semplifica l'adozione di soluzioni IA in processi aziendali critici, dove sono richieste una rendicontazione rigorosa e la prevedibilità del comportamento dei sistemi software.