È stata rilasciata il modello ottimizzato Qwen3.8-Flash-Next-MTP-Strix-Halo

Lo sviluppatore EasiiX ha presentato Qwen3.8-Flash-Next-MTP-Strix-Halo-GGUF — una versione specializzata del modello linguistico, adattata per l'esecuzione locale nel formato GGUF. Il rilascio è orientato al lavoro con la libreria llama.cpp e garantisce il supporto ai moderni metodi di accelerazione dell'inferenza.

La caratteristica chiave di questa build è il supporto nativo per speculative decoding e l'architettura MTP (Multi-Token Prediction). Il modello ha dimostrato un risultato di 11 punti nel sistema di valutazione interna con un tempo di esecuzione del compito di 1 ora. I file sono disponibili per l'integrazione nelle applicazioni locali, tra cui Ollama e Pi, consentendo di utilizzare le funzionalità del modello su attrezzature consumer.

L'utilizzo del formato GGUF consente di configurare in modo flessibile la quantizzazione del modello, riducendo i requisiti di volume della memoria video mantenendo l'accuratezza dei calcoli. L'implementazione dell'architettura MTP consente al modello di prevedere più token in un solo passaggio, riducendo notevolmente i ritardi nella generazione di lunghe sequenze di testo.

Questo rilascio estende l'ecosistema degli strumenti per il deploy locale di modelli ad alte prestazioni della serie Qwen. L'ottimizzazione per Strix Halo indica un orientamento verso piattaforme hardware moderne con alta larghezza di banda della memoria, che è critica per il lavoro con grandi pesi dei modelli in tempo reale.