發佈了MiniMax-M3模型的量化版本

開發人員推出了 MiniMax-M3-uncensored-GGUF ，這是一種未經審查的主要語言模型，旨在通過 llama.cpp 庫進行優化。原始的 MiniMax-M3 架構具有 427B 的參數總量，需要大量的計算資源來進行本地部署。

為了確保在消費級和伺服器級硬件上運行，模型被轉換為 GGUF 格式，使用不同的量化級別。用戶可以使用從 IQ2_S 到 Q8_0 的壓縮選項。最緊湊的版本是 IQ4_XS ，其大小為 189.13 GiB。

量化過程使模型的權重能夠有效地使用內存同時保留原始邏輯。使用 GGUF 格式確保與最新版本的 llama.cpp 相容，允許根據可用的硬件能力在 CPU 和 GPU 之間分配負載。

此版本針對需要在本地環境中訪問具有 427B 參數的模型未過濾答案的研究人員和愛好者。廣泛的量化版本使得能夠在生成精度和佔用的視頻內存或 RAM 之間找到最佳平衡。