I ricercatori hanno presentato il framework FairCompressAgent per la compressione dei modelli sotto FPGA

I ricercatori hanno presentato FairCompressAgent — un framework agente progettato per la compressione automatizzata delle reti neurali tenendo conto dei requisiti di equità e delle limitazioni hardware FPGA. Il sistema combina metodi di pruning, quantizzazione incrementale e fattorizzazione a basso rango sparso in un unico flusso di lavoro.

La base della soluzione è un modello linguistico di pianificazione che analizza i profili delle reti neurali e le metriche delle prestazioni per selezionare la configurazione di compressione ottimale. Il livello esecutivo del framework si occupa delle attività di riaddestramento, valutazione della qualità e selezione dei modelli in base alle limitazioni imposte. In caso di impossibilità di soddisfare i requisiti dell'utente, il sistema fornisce un report sulle violazioni.

Il test è stato condotto sull'architettura VGG-11 utilizzando il dataset Fitzpatrick-17k. Con le limitazioni imposte sull'accuratezza, FairCompressAgent ha ridotto il volume di archiviazione dei tensori per l'inferenza del 59,54%. Allo stesso tempo, la precisione media (average precision) è aumentata da 0,5141 a 0,5233, e il parametro di disuguaglianza delle opportunità (EOpp) è sceso da 0,2251 a 0,2168.

Il framework ha dimostrato un'elevata efficienza di ricerca: per raggiungere la configurazione finale, il sistema ha richiesto in media 7,33 valutazioni dei candidati contro 12 utilizzando metodi di pianificazione standard. Lo strumento supporta l'aggiornamento interattivo dei requisiti e il riaddestramento ripetuto, garantendo la stabilità del processo di ottimizzazione.

Lo sviluppo è finalizzato a semplificare la distribuzione delle soluzioni AI su hardware specializzato, dove è critico il bilanciamento tra l'efficienza computazionale e i parametri etici del modello. Il codice sorgente e la descrizione della metodologia sono disponibili con licenza Non-exclusive distribution.