Nvidia 發布了量化模型 Qwen3.8-27B-NVFP4

公司 Nvidia 推出了一款專門為新一代硬體而優化的語言模型 Qwen3.8-27B-NVFP4。該模型包含 27 億個參數，並以 NVFP4 和 FP8 格式進行量化。

此版本針對基於 Nvidia Blackwell 圖形處理器的高性能計算環境進行了優化。為了方便模型的整合和啟動，開發人員提供了對流行的推理引擎的完全支持，包括 vLLM 和 SGLang。使用這些量化格式可以在保持計算精度的同時大大降低對視頻記憶體的需求。

該模型以 Apache 2.0 許可證發布，允許其在商業和研究項目中使用。在內部測試中，系統在 2 小時 內在目標硬體上達到了 104 分 的成績。

此版本擴展了 Blackwell 架構的工具生態系統，為開發人員提供了可直接使用的模型權重。優化為 4 位和 8 位浮點格式允許在較少的計算節點上運行大型模型，從而降低了企業數據中心的推理成本。