Just AI sistemi Jay Guard'u Rusça konuşan AI ajanları için güncelledi

Şirket Just AI Jay Guard platformunun Jay Guard için güncellenmiş dedektörleri sundu, bu platform LLM uygulamalarının "jailbreak" tipi saldırılarına karşı korunması için tasarlandı. Geliştiriciler, sistemini Rusça dilinin özelliklerine uyarlayarak, gelen trafiğin filtrelenmesinde yanlış tetiklemelerin sayısını azaltmaya odaklandılar.

Araştırma sırasında ekip, AI asistanlarının kısıtlamalarını atlatmak için kullanılan sosyal mühendislik yöntemlerini analiz etti. Mevcut çözümlerin temel sorunu, Rusça dilindeki meşru isteklerin yüksek oranda engellenmesiydi. Bu sorunu çözmek için mühendisler, Rusça konuşulan segmente özgü saldırı modellerini ekleyerek eğitim örneklerini yeniden çalıştırdı, bu da zararlı promt'lerin sınıflandırma doğruluğunu artırdı.

Jay Guard sistemi, kullanıcı uygulaması ve dil modeli arasında bir ara güvenlik katmanı olarak çalışır. Gerçek zamanlı olarak içerik kontrolü gerçekleştirir ve manipülasyon girişimlerini, kişisel veri sızıntılarını ve güvenlik politikası ihlallerini analiz eder. Güncelleme, yeni saldırı vektörlerinin sürekli ortaya çıkması koşullarında korumanın güncelliğini korumaya yöneliktir.

Algılama kalitesinin korunması, kullanıcı trafiği gerçek verilerine sürekli olarak yeniden eğitim gerektirir. Geliştiriciler, etkili "guardrails" oluşturmanın iteratif bir süreç olduğunu ve ana faktörün, katı güvenlik ile AI ajanlarının son kullanıcılar için işlevselliğini koruma arasında bir denge olduğunu belirtiyorlar.