Hugging Face 提出了語音辨識的基準優化方法

團隊 Hugging Face 發佈了有關優化自動語音識別系統（ASR）評估過程的研究結果。專家分析了不同解碼參數和計算策略對最終準確率和音頻數據處理速度的影響。

在測試過程中，使用了 Whisper 家族的模型，記錄了在變化搜索束大小（beam size）和使用不同搜索算法時的 WER（Word Error Rate） 指標的變化。研究人員發現，優化解碼參數可以在不損失標準數據集（如 LibriSpeech）上轉錄質量的情況下將推理時間縮短 25-40%。

技術分析顯示，使用 Flash Attention 和為 CUDA 設計的特定核心可以使長音頻文件的吞吐量提高 1.8 倍。將量化降低到 INT8 可以將視頻內存消耗降低 50%，同時保持在 0.5% 的範圍內的識別準確率不變，與原始的 FP16 值相比。

方法包括使用專門的工具來分析每個處理階段的延遲。作者強調，選擇最佳的批次大小和模型狀態緩存策略是將 ASR 系統擴展到生產環境的關鍵因素。

這項研究為開發人員提供了為語音識別模型配置的現成配置，以適應特定的硬件限制。獲得的數據允許在 GPU 基礎設施上部署模型時更有效地使用計算資源。