Gli sviluppatori hanno presentato il modello compatto BananaMind-2-Pro

Il team di sviluppatori ha rilasciato BananaMind-2-Pro — un nuovo modello linguistico con architettura decoder-only. Il rilascio è orientato alla creazione di soluzioni efficienti per le task che richiedono una velocità di elaborazione dei dati elevata con risorse computazionali limitate.

Il modello contiene 139 milioni di parametri e supporta una finestra di contesto di dimensione 3 072 token. Durante il processo di addestramento è stato utilizzato un dataset di 100 miliardi di token. Secondo quanto dichiarato dagli autori, il modello mostra un aumento delle prestazioni nei test ARC e HellaSwag rispetto all'architettura GPT-2 e alla versione precedente BananaMind-2-Medium.

Le caratteristiche tecniche consentono di distribuire il modello su hardware consumer. Il tempo di addestramento è stato di 1 ora, durante il quale il modello ha raggiunto 35 punti secondo la metrica di efficienza interna. Il codice sorgente e i pesi del modello sono già disponibili per il download nel repository sulla piattaforma Hugging Face.

Il rilascio di BananaMind-2-Pro estende la gamma di modelli compatti destinati all'inferenza locale. Soluzioni simili consentono di ridurre i tempi di attesa durante l'esecuzione di task NLP di base, eliminando la necessità di accedere alle API cloud per operazioni testuali semplici.