Rizzo AI Academy ha presentato il motore locale Rizzo Flow

I sviluppatori di Rizzo Flow hanno rilasciato uno strumento open source omonimo per l'esecuzione locale di richieste API di tipo Jev. La soluzione è orientata al funzionamento su hardware proprietario dell'utente, garantendo la piena privacy dei dati senza accedere a server cloud esterni.

L'obiettivo principale del sistema consiste nel generare soluzioni tipizzate con indicazione delle probabilità invece del normale output testuale. Lo strumento supporta un'interfaccia HTTP compatibile, che consente di integrarlo in pipeline di elaborazione dati esistenti. Il progetto è distribuito sotto licenza gratuita, consentendo di distribuire l'infrastruttura di supporto alle decisioni su risorse locali.

L'implementazione tecnica di Rizzo Flow si concentra sulla tipizzazione rigorosa delle risposte, che è critica per i sistemi automatizzati che richiedono formati di dati prevedibili. A differenza dei classici LLM, che forniscono testo non strutturato, questo motore restituisce indicatori di probabilità strutturati, semplificando ulteriormente l'elaborazione programmata dei risultati. L'utilizzo dell'avvio locale esclude i ritardi legati alle richieste di rete ai provider API di terze parti.

Lo strumento è destinato agli sviluppatori che creano sistemi autonomi, dove è richiesta alta precisione e controllo sul processo di supporto alle decisioni. Il passaggio alle implementazioni API locali consente di ridurre i costi operativi per l'uso di token cloud e garantisce l'indipendenza dalla politica di aggiornamento dei servizi esterni.