Prism ML 推出了 Bonsai 2 27B 模型，其權重為 1.76 位元

Prism ML 公司發佈了 Bonsai 2 27B — 一種使用三元量化技術的語言模型專用版本。該新產品實現了權重壓縮至 1.76 位元，這使得模型僅佔用 5.9 GB 的磁碟空間。

開發人員聲稱，Bonsai 2 27B 保留了 98.2% 的原始 Qwen3.8 27B 模型的性能。如此高的壓縮程度可將內存使用量減少 9 倍，與此同時保持了解決編程、電腦視覺和自主代理工作等任務的功能性。

模型的技術特性針對本地部署和高吞吐量進行了優化。使用三元權重降低了對硬件資源的需求，允許在不犧牲精度的情況下在消費級設備上運行系統。這使得模型適合於對能效和實時數據處理速度至關重要的場景。

有關技術實現和基準測試的討論可在 Hacker News 平台上找到。該版本繼續了優化重型 LLM 以在本地設備上運行的趨勢，同時在保持模型高級認知能力的情況下最小化對雲計算的依賴。