ProCreations güncellenmiş Ternary-Bonsai-2-27B-MTP modelini piyasaya sürdü

Geliştiriciler Ternary-Bonsai-2-27B-MTP adlı dillerin güncellenmiş bir sürümünü sundu - eğitim aşamasından geçen dil modeli. Sürüm, hesaplama performansını artırmaya ve özel donanım ortamları için mimariyi optimize etmeye yöneliktir.

Ana değişikliklerden biri Q8_0 head'in uygulanmasıydı, bu da çalışma hızında 1.26% artış sağladı. Model, Linux x86-64 sistemleri için özel bir yama uygulamalı yerel çalışma zamanının kullanılmasını gerektirir. Sistemlerin doğru çalışması için CUDA 13.3 ortamı gereklidir.

Test sırasında model, 3 saatlik veri işleme için iç metriğe göre 16 puanlık bir sonuç gösterdi. Ternary-Bonsai-2-27B-MTP kullanımının, NVIDIA kütüphanelerine ve işlemci mimarisine ilişkin gereksinimlere uygun bir ortamın ayarlanması gerektiğini varsaydığı unutulmamalıdır.

Verilen sürüm, gecikmeleri azaltmaya yönelik Bonsai ailesi modelleri için optimize etmeyi sürdürüyor. Güncelleme, geliştiricilerin modeli, sürücü ve çalışma zamanlarının son sürümleriyle uyumluluğun kritik olduğu yüksek yük sistemlerine entegre etmesine olanak tanır.