Gli sviluppatori hanno presentato l'architettura Jev per accelerare i calcoli AI

L'azienda Jev ha annunciato il lancio di un nuovo tipo di modelli AI, orientati al miglioramento della velocità e alla riduzione dei costi dell'intelligenza artificiale. La sviluppo è finalizzata all'ottimizzazione dei processi che tradizionalmente richiedono notevoli potenze di calcolo quando si lavora con grandi modelli linguistici.

L'architettura Jev utilizza un metodo unico di elaborazione dei dati, che consente di ridurre i tempi di attesa nella generazione delle risposte. Secondo i test interni, il modello mostra una riduzione dei costi di inferenza del 40% rispetto alle soluzioni analoghe della generazione attuale. Il sistema è ottimizzato per funzionare in condizioni di risorse limitate, il che lo rende adatto per l'integrazione in applicazioni aziendali complesse.

La realizzazione tecnica del modello si basa sulla revisione dei principi di lavoro con la finestra di contesto, che consente al sistema di elaborare lunghe sequenze di token con un minor consumo di memoria operativa. Gli sviluppatori affermano che l'architettura supporta la scalabilità senza perdita di precisione, come confermato dai risultati dei benchmark nelle attività di inferenza logica e scrittura di codice.

Il nuovo approccio alla creazione di modelli da parte di uno degli creatori di ChatGPT segna il passaggio dalle sistemi monolitiche giganti a architetture più specializzate ed efficienti. L'adozione di soluzioni simili consente alle aziende di ridurre la dipendenza dalle costose risorse cloud e di accelerare il deploy di agenti AI in tempo reale.