DeepX ha presentato il chip DX-M2 per l'esecuzione di modelli fino a 100B

L'azienda DeepX ha completato lo sviluppo della topologia del suo chip di seconda generazione DX-M2. Il nuovo processore in silicio è progettato per eseguire modelli linguistici fino a 100 miliardi di parametri con un consumo energetico inferiore a 5 W.

Questi risultati sono stati raggiunti grazie all'integrazione della memoria Samsung LPDDR5x PIM. L'utilizzo di questa tecnologia di elaborazione dati direttamente nella memoria garantisce un aumento delle prestazioni di 6,7 volte rispetto alla generazione precedente di hardware.

Lo sviluppo è orientato all'implementazione dell'intelligenza artificiale locale in dispositivi compatti e sistemi integrati con rigidi vincoli di alimentazione e dissipazione termica. Il chip consente di eseguire l'inferenza di configurazioni di grandi dimensioni senza l'utilizzo di massicci acceleratori server.