DeepX 發表了可運行高達 100B 模型參數的 DX-M2 晶片

DeepX 公司已完成其第二代 DX-M2 晶片的拓撲設計。這款新型矽處理器旨在以低於 5W 的功耗運行參數規模高達 1000 億的語言模型。

之所以能達到這樣的性能指標，歸功於整合了 Samsung LPDDR5x PIM 記憶體。透過在記憶體中直接進行數據處理的技術，使其性能較上一代硬體提升了 6.7 倍。

該開發項目旨在將本地人工智慧導入對功耗和散熱有嚴格限制的輕便型裝置與嵌入式系統中。該晶片無需使用大型伺服器加速器，即可執行大型配置的推論任務。