沙菲·戈德瓦瑟和維諾·維坎坦納坦共同創辦了RESI研究所

知名的密碼學領域學者Shafi Goldwasser和Vinod Vaikuntanathan宣布推出非營利組織RESI(Institute for Responsible Superintelligence)。該研究所的主要任務是為先進的人工智慧系統創建科學基礎，以確保安全和控制。

該組織的活動集中在三個關鍵領域：正式算法驗證、模型行為控制機制的開發以及為其安全部署創建法律框架。研究人員計劃使用嚴格的數學檢查方法，以保證超越人類能力的系統的可預測性。

與許多現有的實驗室不同，RESI著重於基礎研究，特別是在證明安全性領域。學者們旨在開發可以在部署至關鍵基礎設施之前數學證明模型行為不會出現不想要的場景的協議。

該研究所的創建是對人工智慧代理自治性日益增長風險的回應。考慮到創始人的學術背景，RESI的工作將集中於消除當前模型訓練方法和高負載系統可靠性要求之間的差距。