OpenAI Astra modeline siber güvenlik açısından Critical seviyesi verdi

Şirket OpenAI resmi olarak GPT-6 Astra modelini sundu, bu organizasyonun dahili Preparedness Framework değerlendirme sisteminin kapsamında Critical seviyesine ulaşan ilk ürünü oldu. Bu sınıflandırma, sinir ağındaki bilinmeyen zayıflıkları kendiliğinden bulma ve bunların sömürülmesi senaryolarını geliştirme yeteneğini ifade ediyor.

Rapora göre model, insan müdahalesi olmadan güvenlik açıklarını arama görevlerini gerçekleştirebiliyor ve yalnızca temel bir hedef belirlemesi gerekiyor. GPT-6 Astra geliştirme aşamasında mühendisler, sistemin olanaklarının potansiyel suistimalini önlemek için ek kontrol mekanizmaları eklemek için eğitim aşamalarını kasıtlı olarak yavaşlattılar.

Güvenlik açısından kritik seviyenin atanması, saldırı vektörlerinin otomatik aranmasıyla ilgili risklerin değerlendirilmesinin bir sonucudur. Belgelendirmede, mevcut güvenlik protokollerinin modellerin işlevselliği büyümesiyle her zaman başa çıkamadığı ve şirketin sürüm döngüsüne ve diğer laboratuvarlarla koordinasyona yaklaşımlarını yeniden değerlendirmesine neden olduğu belirtiliyor.

Bu gelişmelerin ardından önde gelen AI şirketlerinin yöneticileri, AI alanındaki silah yarışının hızının yavaşlatılması ihtiyacını kamuoyu önünde tartışmaya başladı. Özellikle endüstri temsilcileri, modellerin geliştirilme hızı ile güvenlik sistemlerinin geliştirilme hızı arasındaki boşluğu vurguluyor ve bu durumun zaten teknoloji sektöründeki beklentileri değiştirmeye ve halka arz planlarını düzeltmeye yol açtı.