È stata rilasciata il modello quantizzato Swift-Qwen3.8-27B-NVFP4

I sviluppatori hanno presentato Swift-Qwen3.8-27B-NVFP4 — una versione specializzata del modello linguistico, ottimizzato per funzionare su acceleratori grafici utilizzando precisione mista.

Il peso del modello è di 21,945 GB. Nell'architettura è implementata una combinazione dei formati NVFP4 e FP8, che consente di ridurre notevolmente i requisiti di memoria video. Quando viene eseguito su acceleratori H100, il modello occupa solo 20 GB di VRAM, mantenendo allo stesso tempo la qualità originale di generazione e la precisione di lavoro della cache KV.

La soluzione tecnica è orientata alla riduzione della soglia di ingresso per la distribuzione di modelli pesanti su hardware server. L'utilizzo di NVFP4 garantisce una maggiore densità di impacchettamento dei pesi senza una perdita critica di prestazioni, che è fondamentale per i sistemi con memoria limitata.

Questo rilascio estende le possibilità di lavoro con l'architettura Qwen in condizioni di risorse computazionali limitate. L'ottimizzazione consente di eseguire il modello da 27 miliardi su configurazioni che in precedenza richiedevano una maggiore quantità di memoria per compiti analoghi.