Представлен Bernstein для управления и аудита ИИ-агентов

Разработчики представили Bernstein — открытый уровень управления (governance layer), предназначенный для контроля работы ИИ-агентов. Инструмент ориентирован на обеспечение безопасности и воспроизводимости процессов в средах, где задействовано множество автономных систем.

В основе системы лежит детерминированный планировщик на языке Python, который координирует параллельное выполнение нескольких агентов. Bernstein позволяет внедрять политики управления в виде кода (policy-as-code), что дает возможность жестко ограничивать действия агентов в рамках заданных правил.

Для обеспечения прозрачности и подотчетности платформа использует систему верифицируемых аудиторских логов с HMAC-цепочками. Каждое действие агента сопровождается подписанными квитанциями, что позволяет отслеживать историю операций и гарантировать, что результат работы системы может быть воспроизведен в идентичных условиях.

Инструмент решает проблему «черного ящика» при работе с автономными агентами, предоставляя разработчикам и компаниям технические средства для контроля и аудита. Это упрощает внедрение ИИ-решений в критически важные бизнес-процессы, где требуется строгая отчетность и предсказуемость поведения программных систем.