Anthropic ve Accenture güvenlik modellerinin değerlendirmesine 2 milyar dolar yatırım yapıyor

Anthropic şirketinin bir birimi olan Accenture ile model güvenlik değerlendirmesi sistemlerini uygulamak için stratejik bir ortaklık anlaşması imzaladı. Şirketler, uzmanları doğrudan geliştirme ve test süreçlerine entegre etmeyi planlıyor.

Beş yıllık anlaşma kapsamında her iki taraf da en az $1 milyar yatırım yapacak. Programın toplam bütçesi $2 milyar olacak ve güvenlik, etik ve yetkisiz müdahalelere karşı dayanıklılık standartlarına uygunluğu kontrol etmek için altyapı oluşturmak için kullanılacak.

Girişimin ana amacı, "yerleştirilmiş değerlendirme" (embedded evaluation) yöntemlerini uygulamaktır. Bu yöntemde güvenlik uzmanları geliştirme mühendisleriyle paralel olarak çalışır. Bu, ürünün nihai sürümünden sonra değil, eğitim sürecinin erken aşamalarında zayıflıkları ve riskleri belirlemeyi sağlar.

Program, modellerin önyargı, halüsinasyon ve potansiyel siber güvenlik tehditleri açısından test edilmesini içermektedir. Accenture uzmanları, Anthropic sistemlerinin gerçek kurumsal kullanım senaryolarında belirtilen güvenlik parametrelerine uygun olduğunu doğrulamak için özel metodolojileri kullanacak.

İşbirliği, dış denetimden kalite kontrolünün derin entegrasyonuna dayalı bir modele geçişi temsil etmektedir. Bu yaklaşım, büyük dil modellerinin kritik iş süreçlerine ve devlet yapılarına entegrasyonunda güveni artırmayı amaçlamaktadır.