DeepX представила чип DX-M2 для работы с моделями до 100B

Компания DeepX завершила разработку топологии своего чипа второго поколения DX-M2. Новый кремниевый процессор предназначен для запуска языковых моделей объемом до 100 миллиардов параметров при энергопотреблении менее 5 Вт.

Добиться таких показателей удалось за счет интеграции памяти Samsung LPDDR5x PIM. Использование этой технологии обработки данных непосредственно в памяти обеспечивает 6.7-кратный рост производительности по сравнению с предыдущим поколением оборудования.

Разработка ориентирована на внедрение локального искусственного интеллекта в компактные устройства и встраиваемые системы с жесткими ограничениями по питанию и тепловыделению. Чип позволяет выполнять инференс крупных конфигураций без использования массивных серверных ускорителей.