È stata rilasciata la versione quantizzata del modello Qwen3.8-27B

Gli sviluppatori hanno presentato Qwen3.8-27B-GGUF — una versione ottimizzata del modello linguistico, adattata per l'esecuzione locale su attrezzature consumer. Il rilascio include pesi quantizzati, che consentono di utilizzare il modello con risorse hardware limitate senza una perdita significativa di precisione.

Il modello mostra un risultato di 85 punti nei test interni, raggiungendo questo livello in 1 ora di elaborazione dei dati. Il formato GGUF garantisce la compatibilità con ambienti di esecuzione popolari, tra cui llama.cpp, vLLM e Ollama. L'utilizzo della quantizzazione consente di eseguire il modello da 27 miliardi su sistemi con una quantità di memoria video inferiore a quella richiesta per eseguire la versione full-size in formato FP16.

L'strumentazione è orientata agli sviluppatori che implementano soluzioni AI locali in applicazioni come Pi o Hermes. Il supporto per il formato GGUF semplifica l'integrazione del modello nei pipeline di inferenza locale esistenti, garantendo una alta velocità di generazione di token su GPU e CPU standard.

Questo rilascio estende la disponibilità dell'architettura Qwen per gli appassionati e le aziende che lavorano con dati privati. La possibilità di distribuzione locale esclude la necessità di inviare richieste a server esterni, il che è critico per le attività con requisiti di sicurezza elevati.