發佈了支援多token預測的MLX版本Qwen3.6-27B
2026年9月17日

開發人員推出了 Qwen3.6-27B-MTPLX-Optimized ,這是一種專門為 Apple Silicon 架構設備設計的語言模型版本。該版本針對使用 MLX 框架的原生功能來加速推理進行了優化。
該模型的主要特點是支持原生多令牌預測(MTP)和推測性解碼。在測試過程中,系統展示了最高 2.24x 的解碼速度,適用於代碼編寫任務。使用 MTP 可以比基於 vLLM 的標準實現獲得更高的草稿接受率。
該模型已針對在 Mac 上本地運行進行優化,可以有效地利用 Apple M 系列圖形核心的資源。開發人員指出,MTPLX 架構可以在生成質量和響應延遲之間取得平衡,這對於交互式開發工具至關重要。
此版本擴展了在消費級「硬體」上進行本地推理的能力,轉向原生 MLX 實現可以降低計算的額外開銷,提高每秒令牌的整體吞吐量,而不會犧牲量化版本的準確性。



