Çıkartılan kuantize model Qwen-3.8-flash-next-heretic

Geliştiriciler, Qwen-3.8-flash-next-heretic modelini 3.78 bpw kuantumlamayla GGUF formatında sundu. Model, Qwen4Exp MoE mimarisine dayanmaktadır ve llama.cpp kütüphanesi aracılığıyla yerel cihazlarda çalışmak için optimize edilmiştir.

Teknik yapılandırmada 48 katman ve 512 uzman bulunmaktadır ve bu, sıkıştırılmış ağırlıklarda yüksek hesaplama yoğunluğu sağlar. Model, 262 000 token kadar kontekst penceresi ile çalışabilme özelliğine sahiptir ve bu da büyük belgeleri ve uzun veri dizilerini işleme olanağı sağlar.

Yayınların ana özelliği, Japonca ve çoklu modal girişlerin işlenmesi için özel bir ayar içerir ve bu, resimleri de içerir. GGUF formatının kullanılması, sınırlı miktarda video belleği olan tüketici ekipmanında modeli çalıştırırken doğrulukta önemli bir kayıp olmadan çalıştırma olanağı sağlar.

Verilen yayın, Qwen4Exp mimarisinin yerel kullanım olanaklarını genişletir ve kullanıcıya derin bağlam anlaşması ve görsel verilerin işlenmesi gereken görevler için bir araç sağlar. Llama.cpp için optimizasyon, modelin çoğu modern sistemle yerel olarak çalıştırılabilen LLM için uyumlu olmasını sağlar.