È stata rilasciata il modello quantizzato Qwen-3.8-flash-next-heretic

I sviluppatori hanno presentato Qwen-3.8-flash-next-heretic nel formato GGUF con quantizzazione 3,78 bpw. Il modello si basa sull'architettura Qwen4Exp MoE e ottimizzato per funzionare su dispositivi locali tramite la libreria llama.cpp.

La configurazione tecnica include 48 strati e 512 esperti, garantendo un'elevata densità di calcolo con pesi compressi. Il modello supporta il lavoro con una finestra di contesto fino a 262 000 token, consentendo l'elaborazione di documenti voluminosi e lunghe sequenze di dati.

La caratteristica chiave di questo rilascio è stata la configurazione personalizzata per l'elaborazione della lingua giapponese e dei dati di input multimediali, inclusi le immagini. L'utilizzo del formato GGUF consente di eseguire il modello su hardware consumer con una quantità limitata di memoria video senza una perdita significativa di precisione nella generazione.

Questo rilascio estende le possibilità di utilizzo locale dell'architettura Qwen4Exp, fornendo agli utenti uno strumento per le attività che richiedono una profonda comprensione del contesto e l'elaborazione di dati visivi. L'ottimizzazione per llama.cpp garantisce la compatibilità con la maggior parte dei sistemi moderni per l'esecuzione locale di LLM.