Ginigen Edge-4B-TELL modelini cevapların doğruluğunu değerlendirmek için yayınladı

Ginigen şirketi, yerel ortamlarda yanıtların doğruluğunu değerlendirmek üzere tasarlanmış özel bir model olan Edge-4B-TELL'i tanıttı. Sistem, Gemma-4B mimarisini temel alıyor ve sinir ağının gizli durumlarını analiz eden tell_probe.f32 adlı doğrusal bir okuma katmanıyla destekleniyor.

Aracın temel amacı, harici doğrulama sistemlerine başvurmadan yanıtların doğruluğunu belirlemek. Acil durumlarla ilgili Korece sorular üzerinde yapılan testlerde model, standart öz değerlendirme yöntemlerinden (öz bildirime dayalı güven) daha yüksek doğruluk gösterdi. 0.25 eşik değeri kullanıldığında sistem, güven düzeyinin düşük olması durumunda yanıtların %60.9'unu yedek bir veri kaynağına yönlendirebiliyor.

Model, doğrudan cihaz üzerinde çalışacak şekilde optimize edildi. Bu sayede isteklerin işlenmesindeki gecikmeler en aza indiriliyor. tell_probe.f32 kullanımı, ek istemlere veya API'nin tekrar çağrılmasına gerek kalmadan, üretim kalitesine ilişkin meta verilerin doğrudan modelin iç temsillerinden çıkarılmasını sağlıyor.

Çözüm, sınırlı işlem kaynaklarıyla yanıt güvenilirliğinin kritik önem taşıdığı senaryolara yönelik. Edge-4B-TELL entegrasyonu, halüsinasyon filtreleme sürecini otomatikleştirerek üretimde hata işaretleri saptandığında daha güvenilir bilgi kaynaklarına otomatik geçiş yapılmasını sağlıyor.