發佈了 Qwen3.8-Flash-Next 的量化模型,適用於 Mac 作業系統
2026年9月16日

開發人員推出了 Qwen3.8-Flash-Next-MLX-Serve-iQ-MLX-3.3bpw ,這是一種專門為 Apple Silicon 架構的 Apple 設備優化的語言模型版本。該版本針對具有 64 GB RAM 的系統用戶進行了優化。
該版本的主要特點是將權重量化為 3.3 位元/權重(bpw)。在此參數下,模型在準確性測試中表現出 85.6% top-1 accuracy。使用此版本需要 52 GB 的駐留內存,這使得 Mac 的硬件資源可以有效地用於本地計算。
該架構支持最多 64,000 個令牌 的上下文窗口。在測試過程中,模型在內部性能評估標準中取得了 8 分 的成績,並在 2 小時 的數據處理中達到了此成績。
工具基於 MLX 框架,該框架提供了對 Apple M 系列芯片加速的原生支持。这使得可以在不需要使用雲端 GPU的情況下運行重型 LLM,同時保持高精度的生成能力。
該版本擴展了 macOS 生態系統中開發人員和研究人員對大型模型的本地運行能力。將權重優化為 3.3 位元使得模型可以放入 64 GB RAM 設備的內存中,從而在資源消耗和答案質量之間取得平衡。



