Bench Labs ha rilasciato il modello compatto Cagliostro-v3

L'azienda Bench Labs ha presentato Cagliostro-v3 — un nuovo modello decoder-only ottimizzato per lavorare con risorse computazionali limitate. L'architettura del sistema conta 146 milioni di parametri, che la colloca nella categoria dei modelli linguistici compatti (SLM).

Il processo di pre-addestramento del modello è stato condotto su un array di dati di 75 miliardi di token. Al momento attuale, l'addestramento è stato completato su 72,7 miliardi di token. Gli sviluppatori hanno assegnato al modello l'indice Open SLM Index, che è di 26,27, il che consente di valutare la sua efficienza in confronto ad altre soluzioni sul mercato.

Durante il test, Cagliostro-v3 ha dimostrato di essere leader nel benchmark ArithMark-3, specializzato nella verifica delle capacità matematiche delle reti neurali. Tuttavia, nei test di logica e buon senso, come PIQA, il modello mostra risultati al di sotto delle aspettative per la sua classe.

Il rilascio del modello è finalizzato allo sviluppo del segmento dei sistemi leggeri in grado di eseguire compiti specializzati senza la necessità di implementare soluzioni infrastrutturali pesanti. Il codice sorgente e i pesi del modello sono già disponibili per il download nel repository sulla piattaforma Hugging Face.