Qualcomm 發表 150W Cloud AI 100 Ultra 加速器

Qualcomm 推出了全新的 Cloud AI 100 Ultra AI 加速器，採用 PCIe 插卡外型，功耗為 150W。

該裝置配備 128 GB LPDDR4x 記憶體，提供高達 548 GB/s 的頻寬。其效能表現於 INT8 運算下可達 870 TOPS，專為大型語言模型運作進行了優化。

這款新型加速器鎖定伺服器部署市場，旨在滿足處理語言模型請求時對能源效率的關鍵需求。