Qualcomm, 150 W gücündeki Cloud AI 100 Ultra hızlandırıcısını duyurdu

Qualcomm, 150 W güç tüketimine sahip PCIe kart form faktöründe yeni Cloud AI 100 Ultra yapay zeka hızlandırıcısını tanıttı.

Cihaz, 548 GB/s bant genişliği sağlayan 128 GB LPDDR4x bellek ile donatılmıştır. Yeni ürünün performansı, büyük dil modelleriyle çalışmak üzere optimize edilmiş INT8 işlemlerinde 870 TOPS seviyesine ulaşmaktadır.

Yeni hızlandırıcı, dil modellerine yönelik isteklerin işlenmesinde enerji verimliliğinin kritik olduğu sunucu dağıtımları için tasarlanmıştır.