Hugging Face ha rilasciato una libreria di kernels con supporto per oltre 200 nuclei WebGPU

Hugging Face ha presentato la libreria @huggingface/kernels, che contiene oltre 200 kernel ottimizzati per eseguire calcoli tramite WebGPU. Lo strumento è progettato per accelerare il funzionamento dei modelli AI locali direttamente nel browser sfruttando la potenza del processore grafico.

La libreria include un'ampia gamma di operazioni matematiche necessarie per il deep learning, tra cui calcoli tensoriali, funzioni di attivazione e normalizzazione. L'utilizzo dell'API WebGPU consente di spostare il carico di lavoro dal processore centrale alla GPU, garantendo un notevole aumento delle prestazioni durante l'esecuzione di operazioni di algebra lineare in ambiente web.

I sviluppatori possono integrare questi kernel nei propri progetti per creare applicazioni ad alte prestazioni che funzionano sul lato client. La libreria è progettata per essere cross-platform, consentendo di eseguire complesse architetture di reti neurali nei browser moderni senza la necessità di installare software server aggiuntivo o driver specializzati.

L'adozione di @huggingface/kernels semplifica il processo di sviluppo di strumenti AI locali, poiché gli sviluppatori non devono più scrivere codice a basso livello per ogni tipo di GPU. La standardizzazione delle operazioni tramite WebGPU garantisce il funzionamento stabile dei modelli su diverse configurazioni hardware che supportano lo standard W3C WebGPU.

Questo rilascio fa parte della strategia dell'azienda per sviluppare l'ecosistema Web-AI. Il passaggio ai calcoli GPU nativi nel browser consente di creare interfacce interattive più complesse e strumenti di analisi dei dati che in precedenza richiedevano notevoli potenze di calcolo sul lato server.