發佈了優化模型 Qwen3.8-Flash-Next-MTP-Strix-Halo

開發商EasiiX推出了Qwen3.8-Flash-Next-MTP-Strix-Halo-GGUF，這是一種專門為本地運行而設計的語言模型版本，采用GGUF格式。該版本針對llama.cpp庫進行了優化，並支持當代加速推理的方法。

該版本的主要特點是原生支持speculative decoding和MTP(多令牌預測)架構。該模型在內部評估系統中取得了11分的成績，任務執行時間為1小時。文件可用于集成到本地應用程序中，包括Ollama和Pi，允許在消費級設備上使用模型的功能。

使用GGUF格式允許靈活地調整模型的量化，降低了對視頻內存容量的要求，同时保持了計算的準確性。實施MTP架構允許模型一次預測多個令牌，从而大大減少了生成長文本序列的延遲。

此版本擴展了高性能Qwen系列模型的本地部署工具生態系統。針對Strix Halo的優化表明了對現代高內存帶寬硬件平台的關注，這對於實時處理大型模型權重至關重要。