XingChen-AGI MoE modeli Xing4.0'u 29 milyar parametreyle piyasaya sürdü

XingChen-AGI ekibi XingChen-AGI yeni bir sinir ağı mimarisi Xing4.0-29B-A4B sundu. Model MoE (Mixture of Experts) mimarisine dayanarak inşa edilmiştir ve karmaşık ajans görevlerini gerçekleştirmek için tasarlanmıştır.

Modelin toplam parametre sayısı 29 milyar iken, hesaplamalar sırasında 4 milyar aktif parametre kullanılır. Bu yapılandırma, yüksek performansın korunmasıyla birlikte hesaplama kaynaklarının tüketimini optimize etmenizi sağlar. Model, 256K token hacminde genişletilmiş bir bağlam penceresini destekler.

Yerel olarak çalıştırmak ve iş akışlarına entegre etmek için GGUF formatında bir kuantum sürümü mevcuttur ve boyutu 18 GB'dir. Mimari, Ascend NPU donanım hızlandırıcılarında çalışmak için özel olarak optimize edilmiştir, bu da özel sunucu ortamlarında uygulanma olanaklarını genişletir.

Ön testlerde model 107 puan elde etti ve bu puanı 4 saat içinde elde etti. Sürüm, uzun veri dizilerini işlerken yüksek doğruluk gerektiren otonom AI ajanları oluşturan geliştiricilere yöneliktir.

Xing4.0 sürümü, yanıt hızıyla生成 kalitesi arasında etkili bir denge kurmayı sağlayan özel MoE çözümlerinin oluşturulmasına yönelik eğilimi sürdürüyor. GGUF kuantumunun kullanılması, modeli sınırlı video belleği olan tüketici ve kurumsal ekipmanlarda dağıtmaya uygun hale getiriyor.