Geliştiriciler AI-hesaplamalarını hızlandırmak için Jev mimarisini sundu

Şirket Jev hız ve maliyet artırımı odaklı yeni bir AI modeli türünün lansmanını duyurdu, bu geliştirme büyük dil modelleriyle çalışırken geleneksel olarak önemli hesaplama güçleri gerektiren süreçlerin optimizasyonuna yöneliktir.

Jev mimarisi, yanıt oluşturma sırasında gecikmeleri azaltmaya olanak tanıyan benzersiz bir veri işleme yöntemi kullanır. İç testlere göre, model mevcut neslin benzer çözümlerine kıyasla 40%inferans maliyetlerinde azalma gösteriyor. Sistem, sınırlı kaynaklarda çalışmak için optimize edilmiştir, bu da onu karmaşık kurumsal uygulamalara entegre etmeye uygun hale getirir.

Modelin teknik uygulaması, bağlam penceresi ile çalışma prensiplerinin yeniden değerlendirilmesine dayanır, bu da sistemın daha az bellek tüketimiyle uzun token dizilerini işleme olanağı sağlar. Geliştiriciler, mimarinin doğruluk kaybı olmadan ölçeklenebileceğini, bu durumun mantıksal çıkarım ve kod yazma görevlerindeki benchmark sonuçları ile doğrulandığını belirtiyorlar.

ChatGPT'nin yaratıcılarından birinin yeni model oluşturma yaklaşımı, devasa monolitik sistemlerden daha uzmanlaşmış ve etkili mimarilere geçişi simgeler. Bu tür çözümlerin uygulanması, şirketlerin pahalı bulut hizmetlerine bağımlılığını azaltmasına ve AI ajanlarının gerçek zamanlı olarak dağıtılmasını hızlandırmasına olanak tanır.