È stata rilasciata la versione compatta Yantra-1B per l'avvio degli strumenti

I sviluppatori hanno presentato Yantra-1B — un modello linguistico specializzato con 1 miliardo di parametri, ottimizzato per compiti di chiamata a funzioni e strumenti esterni. La soluzione è orientata al funzionamento in condizioni di risorse computazionali limitate.

Il modello mostra un punteggio di PAS 0.6775 sul benchmark ToolACE-300. Secondo i risultati dei test, le prestazioni della novità sono 3,52 volte superiori a quelle della versione base del modello. L'alta precisione è raggiunta grazie alla combinazione di un router leggero e alla riqualificazione dell'architettura MiniCPM5-1B utilizzando il metodo QLoRA.

L'implementazione tecnica del modello si concentra sulla generazione di argomenti per la chiamata API. L'utilizzo di QLoRA consente di adattare efficacemente i pesi del modello alle specifiche attività di chiamata degli strumenti, mantenendo al contempo il minimo volume di memoria occupata, che è critico per il deploy su dispositivi periferici.

Il rilascio di Yantra-1B estende le possibilità per la creazione di agenti autonomi in grado di interagire con software esterni senza la necessità di utilizzare LLM pesanti. Il modello è disponibile per l'integrazione in progetti che richiedono un'elevata velocità di elaborazione delle richieste con un budget di token limitato.