Nvidia ha rilasciato un modello quantizzato Qwen3.8-27B-NVFP4

L'azienda Nvidia ha presentato una versione specializzata del modello linguistico Qwen3.8-27B-NVFP4, ottimizzato per funzionare su hardware di nuova generazione. Il modello contiene 27 miliardi di parametri ed è stato sottoposto a una procedura di quantizzazione nei formati NVFP4 e FP8.

Il rilascio è orientato alla distribuzione in ambienti di calcolo ad alte prestazioni basati su GPU Nvidia Blackwell. Per l'integrazione e l'avvio del modello, gli sviluppatori hanno garantito il pieno supporto ai popolari motori di inferenza, tra cui vLLM e SGLang. L'utilizzo di questi formati di quantizzazione consente di ridurre notevolmente i requisiti di memoria video mantenendo l'accuratezza dei calcoli.

Il modello è distribuito sotto licenza Apache 2.0, che consente il suo utilizzo in progetti commerciali e di ricerca. Durante i test interni, il sistema ha raggiunto un punteggio di 104 punti, raggiungendo questo risultato in 2 ore di lavoro sull'hardware di destinazione.

Questo rilascio estende l'ecosistema degli strumenti per lavorare con l'architettura Blackwell, fornendo agli sviluppatori pesi pronti all'uso. L'ottimizzazione per i formati a 4 bit e 8 bit a virgola mobile consente di eseguire modelli di grandi dimensioni su un minor numero di nodi di calcolo, riducendo i costi di inferenza nei data center aziendali.