TypeSafe negenaratif model Jev'i AI kontrolü için sundu

Şirket TypeSafe Jev — AI güvenlik sistemlerinin izlenmesi ve kontrolü için özel olarak tasarlanmış bir negenaratif modeli sundu. Araç, sinir ağlarının çalışması sırasında yerleştirilebilecek kötü amaçlı veya "arka kapı" kodunun tespit edilmesine yöneliktir.

Test sırasında sistem, tehditlerin %90 oranında tespit edilmesini ve yalnızca %2 yanlış pozitif alarmı gösterdi. Kontrol maliyeti 1000 istek için $0.04 olup, bu da çözümü geliştirme.pipeline'larına entegre etmek için ekonomik bir araç haline getiriyor.

Jev çalışmasının sonuçları, zincirli akıl yürütme (CoT) yöntemini kullanan o3-mini modelinin sonuçlarıyla karşılaştırılabilir. Genaratif modellere kıyasla Jev mimarisi, kod analizi sırasında halüsinasyon riskini ortadan kaldırır ve verilerin doğrulanmasına deterministik bir yaklaşım sağlar.

"Güvenilir gözlemci" olarak negenaratif sistemlerin kullanılması, AI ajanlarındaki güvenlik açıklarının kullanılma riskini azaltmaya olanak tanır. Geliştirme, büyük dil modellerinin olasılıksal doğası bağımsızlığını sağlayan ve kritik altyapı projelerine entegre edilebilecek bağımsız bir kontrol seviyesi oluşturmayı amaçlamaktadır.