Gli sviluppatori hanno presentato Open-Jev per l'adozione di decisioni probabilistiche

Il team di sviluppatori ha rilasciato Open-Jev — un progetto open source destinato a implementare soluzioni di probabilità tipizzate basate sull'architettura Qwen. Lo strumento è orientato all'automatizzazione dei processi logici e all'ottimizzazione delle risposte in compiti specializzati.

Nella versione attuale gli utenti hanno accesso agli adattatori LoRA per modelli con 2B e 9B parametri. Gli sviluppatori hanno anche confermato che è in fase di sviluppo attivo l'estensione per la versione con 27B parametri, che dovrebbe aumentare la precisione dell'elaborazione di richieste complesse.

Secondo i benchmark pubblicati, il sistema mostra una latenza inferiore nell'elaborazione delle richieste nel supporto clienti rispetto alla precedente iterazione Jev-1.13.0. Tuttavia, quando si lavora con contesti più ampi, i tempi di latenza risultano più alti, il che richiede una considerazione nella scelta della configurazione del modello per scenari aziendali specifici.

Il progetto è distribuito attraverso un repository su GitHub, dove sono disponibili le istruzioni per il deploy e l'integrazione degli adattatori. L'utilizzo di soluzioni di probabilità tipizzate consente di standardizzare l'output delle reti neurali, minimizzando le allucinazioni in compiti che richiedono una logica rigorosa.

Il rilascio di Open-Jev estende l'ecosistema degli strumenti per la regolazione fine dei modelli Qwen, fornendo agli sviluppatori un set di strumenti flessibili per l'integrazione dell'AI nei sistemi di supporto alle decisioni. L'ulteriore sviluppo del progetto si concentra sulla scalabilità fino a 27B e sull'ottimizzazione del lavoro con lunghe sequenze di dati.