ProCreations ha rilasciato il modello Ternary-Bonsai-2-27B-DFlash2

I sviluppatori di Ternary-Bonsai-2-27B-DFlash2 hanno presentato una versione aggiornata del modello, che ha superato la fase di addestramento con l'utilizzo dei pesi r2-dflash. Il rilascio è orientato al miglioramento delle prestazioni mantenendo i parametri architettonici del modello di base.

Il modello è disponibile nel formato BF16 per l'addestramento e Q8_0 per l'inferenza. Durante i test è stato registrato un aumento della velocità di generazione del 0,54% secondo il parametro di decodifica dei token al secondo. L'aggiornamento include un patch per il runtime nativo, che garantisce la compatibilità con Linux x86-64.

L'implementazione tecnica supporta il lavoro con CUDA 13.3 e ottimizzato per l'architettura SM120 Blackwell. Il modello ha dimostrato un risultato di 15 punti secondo il sistema di valutazione interna in 3 ore di elaborazione dei dati.

Questo rilascio estende la gamma di Ternary-Bonsai, offrendo agli sviluppatori strumenti per lavorare con le nuove attrezzature hardware. L'utilizzo di pesi dflash specifici consente di regolare più precisamente il comportamento del modello in compiti con alta richiesta di risorse computazionali.