Geliştiriciler dspy-typesafeify'i model çıktılarını optimize etmek için sundu

Geliştiriciler, DSPy çerçevesinin katı tiplemeyi çıkarım sürecine entegre eden bir çatalı olan dspy-typesafeify yayınlandı. Araç, yapılandırılmış alanların işlenmesini Typesafe şirketinin Noul hizmetine devredebilen @typesafeify dekoratörünü ekler.

Verilen çözümün kullanımı, performansı 15.9% artırır. Hızlandırma yanı sıra, entegrasyon, model ve dış tipleme hizmetleri arasında optimize edilmiş veri iletimi sayesinde token oluşturma maliyetlerini 30.1% azaltmaya olanak tanır.

Proje, orijinal dspy.Predict API'si ile tam uyumluluğu korur, bu da LLM ile çalışma mantığını değiştirmeden mevcut işlem hatlarına tiplemeyi entegre etmeyi sağlar. Geliştiriciler, şema verilerini sıkı bir şekilde izleyen görevlerde çıktı güvenilirliğini artırmak için bir proof-of-concept olarak çözümü konumlandırırlar.

Araç, DSPy'yi karmaşık çağrı zincirleri oluşturmak için kullanan geliştiricilere yöneliktir, burada çıkış formatlarının öngörülebilir olması kritik önem taşır. Projenin kaynak kodu, test ve çalışma ortamlarına entegrasyon için açık bir lisans altında GitHub'da mevcuttur.