IBM ha rilasciato la serie di modelli Granite 4.2

L'azienda IBM ha presentato la linea aggiornata di modelli linguistici Granite 4.2, orientata all'uso aziendale e ad alta precisione nelle attività di elaborazione dei dati. La nuova serie include modelli con diverso numero di parametri, ottimizzati per funzionare in condizioni di risorse computazionali limitate e scenari aziendali specifici.

La base dell'architettura Granite 4.2 è costituita da un processo di preparazione dei dati migliorato, che include la filtrazione dei contenuti di bassa qualità e la deduplicazione a livello di documento. Gli sviluppatori hanno applicato il metodo Instruction Tuning su set di dati costituiti da 10 trilioni di token, il che ha consentito di aumentare le prestazioni nelle attività di inferenza logica e scrittura di codice. I modelli supportano una finestra di contesto di fino a 128 mila token.

Le caratteristiche tecniche includono il supporto per i formati di quantizzazione FP8 e INT4, che riducono i requisiti di memoria video quando vengono distribuiti su GPU della serie Nvidia H100. Nei test sui benchmark MMLU e HumanEval, i modelli mostrano un aumento della precisione del 12-15% rispetto alla versione precedente 4.1. I pesi dei modelli sono disponibili sotto licenza Apache 2.0, il che consente di utilizzarli in prodotti commerciali senza restrizioni.

L'aggiornamento è finalizzato all'integrazione nella piattaforma watsonx.ai, fornendo agli sviluppatori strumenti per riaddestrare i modelli sui propri dati aziendali. L'uso di Granite 4.2 consente di ridurre il tempo di inferenza del 20% mantenendo la qualità delle risposte, il che è critico per i sistemi di automazione della gestione e dell'analisi dei report finanziari in tempo reale.