Qualcomm ha annunciato l'acceleratore Cloud AI 100 Ultra da 150 W

L'azienda Qualcomm ha presentato il nuovo acceleratore AI Cloud AI 100 Ultra, realizzato nel formato di una scheda PCIe con un consumo energetico di 150 W.

Il dispositivo è dotato di 128 GB di memoria LPDDR4x, che garantisce una larghezza di banda di 548 GB/s. Le prestazioni della novità raggiungono gli 870 TOPS nelle operazioni INT8, ottimizzate per lavorare con modelli linguistici di grandi dimensioni.

Il nuovo acceleratore è destinato alle implementazioni server, dove l'efficienza energetica è fondamentale durante l'elaborazione delle richieste ai modelli linguistici.