TypeSafe ha presentato l'API per la presa di decisioni Jev

L'azienda TypeSafe ha rilasciato un'API per Jev - uno strumento che invece di generare testo sceglie la variante ottimale da uno spazio di soluzioni predefinito. Il sistema è orientato a compiti che richiedono alta velocità e precisione di esecuzione, escludendo le allucinazioni dei modelli linguistici standard.

L'architettura di Jev si basa sui contratti Noul, Choice e Score, che definiscono la logica di scelta della risposta. A differenza dei classici LLM, il modello non si occupa di prevedere il prossimo token, ma esegue una classificazione o una scelta di azione in base ai parametri forniti. Ciò consente di raggiungere ritardi estremamente bassi: ad esempio, un agente browser basato su Jev può trovare biglietti aerei in 7 secondi.

I sviluppatori stanno già utilizzando l'API per creare bot di trading, filtri di contenuto e sistemi di gestione, inclusi prototipi per Tesla FSD. Lo strumento consente agli sviluppatori di limitare rigidamente l'area delle risposte ammissibili, rendendo il comportamento del sistema prevedibile in scenari critici. La documentazione descrive il processo di integrazione attraverso le chiamate API, dove il costo e le prestazioni sono ottimizzati per specifiche applicazioni.

Il passaggio dai modelli generativi a solutori specializzati consente di ridurre i costi computazionali e aumentare l'affidabilità dei sistemi automatizzati. Jev copre una nicchia in cui è richiesto non un approccio creativo, ma un rigido rispetto degli algoritmi di decisione predefiniti in tempo reale.