OpenAI 組成了獨立的數學家團隊來監督 AI 的發展

OpenAI 宣布成立一個由領先數學家組成的獨立諮詢小組，主要任務是對人工智慧在數學能力方面的現狀進行深入分析，並評估其發展的風險。

小組成員包括專注於計算基礎和算法邏輯的專家，他們將對公司的架構決策進行獨立審核，以確保開發符合安全和透明的標準，這是公司首次邀請外部學術數學家對其模型進行正式驗證。

小組的工作旨在解決神經網絡的解釋性和訓練方法的數學基礎的問題，專家將發表研究結果報告，以促進科學界的知識共享，與小組的互動將使公司能夠在設計初期就識別出模型邏輯鏈中的潛在漏洞。

成立這個機構是加強系統安全控制的戰略的一部分，在加速開發的同時，引入外部專家的意見應該能夠降低模型在解決複雜數學問題時出現不可預測行為的可能性，有關小組成員和工作方法的詳細信息可在 OpenAI 官方網站上找到。