Anthropic, güvenlik modellerinin değerlendirilmesi için Accenture'ı seçti

Anthropic, geliştirilen modellerin güvenliğini ve güvenilirliğini değerlendirecek ilk dış ortağı olacak danışmanlık şirketi Accenture ile anlaşma yaptı. İş birliği kapsamında şirketin uzmanları, sistemleri kamuya sunulmadan önce bağımsız olarak denetleyecek.

Program kapsamında uzmanlar test süreçlerine dahil edilecek ve modellerin siber tehditlere karşı dayanıklılığını, önyargı barındırıp barındırmadığını ve etik standartlara uygunluğunu inceleyecek. Bu, Anthropic ölçeğinde bir geliştiricinin, kurumsal müşterilerle çalışan harici bir kuruluşa «gömülü değerlendirici» görevini devrettiği ilk örnek.

Denetimlerde, LLM mimarisindeki güvenlik açıklarını tespit etmek üzere geliştirilen gizli veri kümeleri ve özel saldırı senaryoları kullanılacak. Denetim sonuçları, son kullanıcılar ve işletmeler için güncellemelerin yayımlanmasına ilişkin kararlarda dikkate alınacak.

İş birliği, finans ve sağlık gibi kritik sektörlerde yapay zekâ çözümlerinin devreye alınmasının yol açtığı riskleri azaltmayı amaçlıyor. Daha önce bu tür denetimler çoğunlukla şirketlerin iç güvenlik ekiplerince yürütülüyordu. Ancak modellerin giderek karmaşıklaşması, bağımsız doğrulama için dış uzmanlara başvurulmasını gerekli kıldı.

Bu adım, şirketlerin dış ortaklıklar aracılığıyla geliştirdikleri ürünlerde şeffaflığı artırmaya çalıştığı sektördeki genel eğilimi yansıtıyor. Üçüncü taraf denetçilerden yararlanmak, teknolojilerini iş süreçlerine entegre etmeden önce sıkı güvenlik garantileri isteyen büyük kurumsal müşterilere Anthropic'in sistemlerinin güvenilirliğini kanıtlama olanağı sunuyor.