Araştırmacılar FPGA altında modelleri sıkıştırmak için FairCompressAgent çerçevesini sundular

Araştırmacılar FairCompressAgent adlı bir ajans çerçevesi sundu - adalet (fairness) gereksinimlerine ve FPGA donanım kısıtlamalarına uygun otomatik sinir ağı sıkıştırması için tasarlanmış bir çerçeve. Sistem, budama, artımlı kuantizasyon ve seyrek düşük rütbeli faktörizasyon yöntemlerini tek bir iş akışına birleştirir.

Çözümün temelinde, sinir ağı profillerini ve performans metriklerini analiz eden ve sıkıştırma için optimal yapılandırmayı seçen bir dil modeli planlayıcısı yatmaktadır. Çerçevenin yürütme katmanı, verilen kısıtlamalara dayalı olarak yeniden eğitim, kalite değerlendirme ve model seçme görevlerini üstlenir. Kullanıcı gereksinimlerini karşılayamadığında, sistem ihlal raporları sağlar.

Testler VGG-11 mimarisi üzerinde Fitzpatrick-17k veri kümesi kullanılarak yürütüldü. Belirtilen doğruluk kısıtlamaları ile FairCompressAgent, çıkarım için tensör depolama hacmini %59.54 azalttı. Aynı zamanda, ortalama doğruluk (average precision) 0.5141'den 0.5233'e yükseldi ve fırsat eşitsizliği (EOpp) 0.2251'den 0.2168'e düştü.

Çerçeve yüksek bir arama verimliliği gösterdi: nihai yapılandırmaya ulaşmak için sistem ortalama 7.33 aday değerlendirme benötirken, standart planlama yöntemleri 12 gerektiriyordu. Araç, gereksinimlerin etkileşimli olarak güncellenmesini ve yeniden eğitimi destekler, bu da optimizasyon sürecinin stabilitesini sağlar.

Geliştirme, AI çözümlerinin özel donanımda dağıtılmasını basitleştirmeyi amaçlamaktadır, burada hesaplama verimliliği ve modelin etik göstergeleri arasındaki denge kritik öneme sahiptir. Kaynak kodu ve metodoloji tanımı Non-exclusive distribution lisansı altında mevcuttur.