研究人員提出Clipper演算法來驗證神經系統

研究人員提出了一種新的非線性神經網絡反饋系統驗證方法，解決了在分析自主應用程序時的可擴展性問題。該工作發表在 arXiv 預印本 中，提出了一種結合分支和界限方法與約束傳播的方法。

在研究中，開發了兩個關鍵組件： Rail 介面和 Clipper 算法。 Rail 系統提供了多面體動力學外殼與 LiRPA 風格的界限傳播方法的集成。另一方面， Clipper 執行這些外殼的共同精化和控制器激活的分離，使得可以有效地處理複雜的計算圖。

所提出框架的主要優點是保持時間步之間的符號相關性，這以前是組合解決方案所無法做到的。作者指出，當前的方法要麼無法處理神經網絡的大小，要麼在使用傳播算法時失去準確性。新的方法允許驗證以前被認為太複雜而無法分析的系統。

測試結果顯示，所提出的架構在非線性動力學驗證任務中顯著優於現有的解決方案。使用此方法可以讓工程師更準確地評估神經網絡控制器在關鍵自主系統中的行為，同時在擴大模型時最小化錯誤風險。