Hugging Face yayınladı WebGPU-çekirdeği desteği ile 200+ çekirdek kütüphanesi

Hugging Face @huggingface/kernels kütüphanesini sundu, içerisinde 200'den fazla optimize edilmiş çekirdek ile WebGPU aracılığıyla hesaplama işlemlerini gerçekleştirmek için tasarlandı. Araç, tarayıcıda yerel AI modellerinin çalışmasını hızlandırmak için grafik işlemcisini kullanmak amacıyla tasarlandı.

Kütüphane, derin öğrenme için gerekli geniş bir matematiksel işlem setini içerir, bunlar arasında tensor hesaplamaları, aktivasyon ve normalleştirme işlevleri bulunur. WebGPU API'sini kullanmak, merkezi işlemcinin yükünü GPU'ya aktararak, web ortamında lineer cebir işlemlerinin gerçekleştirilmesinde önemli bir performans artışı sağlar.

Geliştiriciler, yüksek performanslı istemci tarafı uygulamaları oluşturmak için projelerine bu çekirdekleri entegre edebilir. Kütüphane, çoklu platform desteği ile tasarlanmıştır, böylece gelişmiş sinir ağı mimarilerini modern tarayıcılar içinde özel sunucu yazılımları veya sürücülere gerek kalmadan çalıştırabilir.

@huggingface/kernels uygulaması, yerel AI araçlarının geliştirme sürecini basitleştirir, çünkü geliştiricilerin her bir GPU türü için düşük seviyeli kod yazması gerekmez. W3C WebGPU standardını destekleyen çeşitli donanım konfigürasyonlarında modellerin稳il çalışmasını sağlayan WebGPU aracılığıyla operasyonların standardizasyonu sağlanır.

Bu sürüm, şirketin Web-AI ekosistemini geliştirme stratejisinin bir parçasıdır. Tarayıcıda yerel GPU hesaplamalarına geçiş, daha önce önemli sunucu tarafı hesaplama gücüne ihtiyaç duyan daha karmaşık etkileşimli arayüzler ve veri analiz araçlarının oluşturulmasına olanak tanır.