Çıkış yapılmış kuantum modeli Qwen3.8-Flash-Next Mac için çalışmak üzere

Geliştiriciler, Qwen3.8-Flash-Next-MLX-Serve-iQ-MLX-3.3bpw adlı dil modelinin özel bir sürümünü sundu - Apple Silicon mimarisine sahip Apple cihazlarında çalışmak için optimize edilmiş bir dil modeli. Sürüm, 64 GB RAM'e sahip sistemlere sahip kullanıcıları hedefliyor.

Derlemenin ana özelliği, 3.3 bit ağırlık başına (bpw) kuantumlanmasıdır. Bu parametrelerde model, doğruluk testlerinde %85,6 en iyi 1 doğruluk gösterir. Bu sürümün kullanımı 52 GB resident bellek gerektirir, bu da Mac'in donanım kaynaklarını yerel hesaplamalar için etkili bir şekilde kullanmasını sağlar.

Mimari, 64 bin token kadar bağlamsal pencere ile çalışmayı destekler. Test sırasında model, 8 puan ile iç performans değerlendirme ölçeğinde bir sonuç gösterdi ve bunu 2 saatlik veri işleme ile başardı.

Araç seti, Apple M serisi çiplerinde hızlandırma için yerli destek sağlayan MLX çerçevesine dayanmaktadır. Bu, bulut GPU'larını kullanma ihtiyacını ortadan kaldırırken yüksek doğrulukta nesne üretimi yapabilen ağır LLM'leri çalıştırmanıza olanak tanır.

Verilen sürüm, macOS ekosisteminde çalışan geliştiriciler ve araştırmacılara yönelik büyük modellerin yerel olarak çalıştırılma olanaklarını genişletiyor. Ağırlıkların 3.3 bite optimize edilmesi, modeli 64 GB RAM'e sahip cihazların belleğinde barındırmanıza olanak tanır ve kaynak tüketimi ile yanıt kalitesi arasında bir denge sağlar.