Presentato il motore Laya per prendere decisioni strutturate

I sviluppatori hanno presentato Laya — un motore specializzato per l'elaborazione di query tipizzate, che esclude la fase di generazione del testo. Il sistema è orientato al lavoro con stati di dati arbitrari e alla fornitura di risposte rigorosamente strutturate.

La caratteristica chiave dell'architettura è l'approccio non autoregressivo, che consente di valutare la query in un solo passaggio diretto. Il tempo di elaborazione di una query è di circa 35 ms, che è significativamente più veloce dei LLM standard, che richiedono la generazione sequenziale di token.

Oltre a formare risposte, lo strumento calcola automaticamente le stime di calibrazione della fiducia (confidence scores). Ciò consente al sistema di segnalare il grado di affidabilità della decisione presa in tempo reale. Il progetto è pubblicato in open access su GitHub con una licenza che consente l'integrazione in sistemi ad alta carico di lavoro.

L'assenza di una fase generativa rende la soluzione adatta per le attività in cui è critica la prevedibilità dell'output e la bassa latenza. La tecnologia è orientata all'automatizzazione della logica aziendale e dei processi analitici, che richiedono una reazione immediata ai cambiamenti dello stato del sistema senza sprechi di risorse di calcolo per la costruzione del linguaggio naturale.