Rizzo AI Academy yerel Rizzo Flow motorunu sundu

Rizzo Flow'dan geliştiriciler, Jev tipi API isteklerini yerel olarak çalıştırmak için açık kaynaklı aynı adlı bir araç yayınladı. Çözüm, kullanıcıların kendi donanımında çalışmasını hedefleyerek, dış bulut sunucularına başvurmadan tam veri gizliliği sağlar.

Sistemin temel amacı, standart metin çıktısı yerine olasılıkları belirten tipik çözümler oluşturmaktır. Araç, uyumlu bir HTTP arayüzünü destekler, bu da onu mevcut veri işleme.pipeline'larına entegre etmeyi sağlar. Proje, özgür bir lisans altında dağıtılır, böylece karar altyapısını yerel güçlerde dağıtmaya izin verir.

Rizzo Flow'un teknik uygulaması, otomatik sistemler için kritik olan yanıtların sıkı tiplemesine odaklanıyor. Klasik LLM'lerin yapılandırılmamış metin çıkardığına karşılık, bu motor yapılandırılmış olasılıklı göstergeler döndürür, bu da sonuçların daha sonraki programlı işlenmesini kolaylaştırır. Yerel çalıştırma, API'ye yapılan ağ istekleriyle ilgili gecikmeleri ortadan kaldırır.

Araç, yüksek doğruluk ve karar alma sürecinde kontrol gerektiren otonom sistemler oluşturan geliştiriciler için tasarlanmıştır. API'lerin yerel uygulamalarına geçmek, bulut tokenlerinin kullanımına ilişkin operasyonel giderleri azaltmaya ve dış hizmetlerin güncelleme politikalarına bağımlılıktan kurtulmaya olanak tanır.