研究人員提出FairCompressAgent框架以對FPGA進行模型壓縮

研究人員提出FairCompressAgent，這是一種代理框架，旨在自動化神經網絡壓縮，考慮公平性（fairness）和FPGA硬件限制。系統結合了剪枝、增量量化和稀疏低秩因式分解的方法，形成一個統一的工作流程。

解決方案的基礎是語言模型-計劃師，它分析神經網絡的配置文件和性能指標，以選擇最佳的壓縮配置。框架的執行層負責微調、評估質量和根據給定的限制選擇模型。如果無法滿足用戶的要求，系統會提供違反報告。

測試是在VGG-11架構上進行的，使用了Fitzpatrick-17k數據集。在給定的準確性限制下，FairCompressAgent將推理的張量存儲大小減少了59.54%。同時，平均精度（average precision）從0.5141增加到0.5233，而機會不平等指標（EOpp）從0.2251降低到0.2168。

框架展示了高效的搜索：為了達到最終配置，系統平均需要7.33次候選評估，而使用標準的計劃方法需要12次。工具支持交互式更新要求和重新微調，從而確保優化過程的穩定性。

開發的目的是簡化在專用設備上部署AI解決方案的過程，在這種設備上，計算效率和模型的道德指標之間的平衡至關重要。原始代碼和方法描述在Non-exclusive distribution許可下可用。