XingChen-AGI kuantum modeli Xing4.0-29B-A4B-FP8'i piyasaya sürdü

XingChen-AGI ekibi Xing4.0-29B-A4B-FP8 sinir ağı güncellenmiş sürümünü sundu. Model, 29 milyar parametre ile MoE (Mixture of Experts) tipi bir mimariye sahiptir ve bunlardan 4 milyar tanesi istek gerçekleştirilirken aktiftir.

Yayınların ana özelliği Ascend NPU donanımına optimizasyondu. Model, 256 bin token hacmindeki bir bağlam penceresi ile çalışmayı destekler, bu da bir oturum içinde önemli miktarda veriyi işleme olanak tanır. İç testlerde sistem 62 puan aldı ve hesaplamalar için 3 saat harcadı.

Mimari, karmaşık ajan görevlerinin gerçekleştirilmesi ve programlama için tasarlanmıştır. Model, SWE-bench Verified gibi özel benchmark'ler dahil olmak üzere test edilmiştir ve açık kaynaklı depolarda gerçek sorunları çözme yeteneğini değerlendirir. FP8 formatının kullanılması, performansı korurken bellek gereksinimlerini azaltmayı sağladı.

Verilen yayın, özel hesaplamalı hızlandırıcılarda yüksek performanslı modellerin dağıtım olanaklarını genişletiyor. FP8 kuantalamasının kullanılması, çıkarım hızı ve yanıt doğruluğu arasında bir denge sağlar ve bu, otomatik geliştirme ve kod analiz sistemleri için kritiktir.