Şafi Altınvassar ve Vinod Vaykunthanathan RESI enstitüsünü kurdu

Kriptografi alanında bilinen bilim adamları Shafrira Goldwasser ve Vinod Vaikuntanathan kâr amacı gütmeyen bir organizasyon olan RESI (Institute for Responsible Superintelligence) kurduklarını duyurdular. Enstitünün temel amacı, gelişmiş yapay zeka sistemleri için güvenlik ve kontrol sağlamak için bilimsel bir temel oluşturmaktır.

Organizasyonun faaliyetleri üç ana alanda yoğunlaşmaktadır: algoritmaların resmi doğrulaması, model davranışlarının kontrol mekanizmalarının geliştirilmesi ve güvenli bir şekilde uygulanmaları için yasal çerçevenin oluşturulması. Araştırmacılar, sistemlerin öngörülebilirliğini garantilemek için katı matematiksel test yöntemlerini uygulamayı planlamaktadır.

Çok sayıda mevcut laboratuvarın hesaplamalı güçleri ölçeklendirme odaklı olmasına karşılık, RESI temel araştırma alanında kanıtlanabilir güvenlik üzerine odaklanmaktadır. Bilim adamları, modellerin kritik altyapılara dağıtmadan önce istenmeyen davranış senaryolarının absenceını matematiksel olarak doğrulayan protokoller geliştirmeyi amaçlamaktadır.

Enstitünün kurulması, AI ajanlarının otonomluğu ile ilgili artan risklere bir yanıt olmuştur. Kurucuların teorik bilişim alanında akademik geçmişine dikkat çekilerek, RESI'nin çalışması mevcut model eğitim yöntemleri ile yüksek yük ve sorumlu sistemlerde güvenilirlik gereksinimleri arasındaki boşluğu gidermeye yöneliktir.