ProCreations Ternary-Bonsai-2-27B-DFlash2 modelini çıkardı

Geliştiriciler Ternary-Bonsai-2-27B-DFlash2 modelinin güncellenmiş bir sürümünü sundu, bu sürüm r2-dflash ağırlıklarını kullanarak ek eğitim aşamasından geçti. Sürüm, temel modelin mimari parametrelerini korurken performansı artırmaya yöneliktir.

Model BF16 formatında eğitim için ve Q8_0 formatında çıkarım için kullanılabilir. Testler sırasında, saniye başına token çözme oranı açısından %0.54 hız artışına ulaşıldı. Güncelleme, Linux x86-64 ile uyumlu olan yerel çalışma zamanı için bir yama içerir.

Teknik uygulama CUDA 13.3 ile çalışmayı destekler ve SM120 Blackwell mimarisine optimize edilmiştir. Model, iç değerlendirme sistemi kapsamında 3 saatlik veri işleme süresinde 15 puanlık bir sonuç elde etti.

Verilen sürüm, Ternary-Bonsai serisini genişleterek geliştiricilere en yeni donanım ile çalışmak için araçlar sunar. Dflash ağırlıklarının kullanımı, yüksek hesaplama kaynağı yükü olan görevlerde modelin davranışını daha doğru bir şekilde ayarlamaya olanak tanır.