DeepSeek 推出了 v4.1 Flash 模型，其 KV 快取壓縮度達 4 倍

開發人員推出了 DeepSeek-v4.1 Flash — 更新的架構版本，針對極端的上下文優化。模型達到每秒 420 個令牌 的生成速度，同时保持高精度的數據處理。

關鍵的新發展是引入 CSA2 技術，它提供 4 倍的 KV 快取壓縮。架構使用遞歸方法 (Recursive Transformer) 和 FP4 格式的計算，這使得在保持性能的同時大大降低了對運行記憶體的需求。

在預填充 (prefill) 過程中，系統只啟動 8 億個參數，這減少了長提示的處理延遲。使用 FP4 量化可以有效地分配計算負載，最大限度地降低 GPU 資源的消耗，而不會明顯犧牲文字生成的質量。

這項開發旨在解決長上下文工作中的「瓶頸」問題，其中 KV 快取的大小通常限制了系統的吞吐量。技術實現的細節和架構測試的結果可在 社群討論 中找到，專家們在其中強調了所提出方法的壓縮效率對於高負載 AI 服務的重要性。