Yapay zeka ajanlarını yönetmek ve denetlemek için Bernstein tanıtıldı

Geliştiriciler, yapay zeka ajanlarının çalışmasını kontrol etmek için tasarlanmış açık kaynaklı bir yönetim katmanı (governance layer) olan Bernstein'ı tanıttı. Araç, birden fazla otonom sistemin yer aldığı ortamlarda güvenlik ve süreçlerin tekrarlanabilirliğini sağlamaya odaklanıyor.

Sistemin temelinde, birden fazla ajanın paralel yürütülmesini koordine eden Python dilinde yazılmış deterministik bir planlayıcı yer alıyor. Bernstein, yönetim politikalarının kod olarak (policy-as-code) uygulanmasına olanak tanıyarak ajanların eylemlerini belirlenen kurallar çerçevesinde sıkı bir şekilde sınırlandırmayı mümkün kılıyor.

Şeffaflık ve hesap verebilirliği sağlamak için platform, HMAC zincirleri içeren doğrulanabilir denetim günlükleri sistemini kullanıyor. Her ajan eylemi, imzalı makbuzlarla destekleniyor; bu da operasyon geçmişinin izlenmesini ve sistem çıktısının aynı koşullar altında tekrarlanabilir olmasını garanti ediyor.

Araç, otonom ajanlarla çalışırken karşılaşılan "kara kutu" sorununu çözerek geliştiricilere ve şirketlere kontrol ve denetim için teknik araçlar sunuyor. Bu durum, sıkı raporlama ve yazılım sistemlerinin öngörülebilirliğinin gerektiği kritik iş süreçlerine yapay zeka çözümlerinin entegrasyonunu kolaylaştırıyor.