ИИ-ускоритель от DeepX обещает запускать модели на 100 млрд параметров при энергопотреблении 5 Вт

Южнокорейская компания подготовила DX-M2 к производству и вместе с Samsung тестирует память LPDDR5x-PIM, которая в симуляциях увеличивает скорость генерации токенов в 6,7 раза Южнокорейская DeepX завершила разработку второго поколения ИИ-ускорителя DX-M2, рассчитанного на запуск больших языковых моделей непосредственно на устройствах — от роботов и дронов до ноутбуков. Чип сможет обрабатывать модели с 20–100 млрд параметров (при этом активными в конкретный момент могут быть около 3–20 млрд параметров) со скоростью 10–30 токенов в секунду в зависимости от модели. Энергопотребление при этом должно остаться на уровне всего 5 Вт. Компания уже передала проект микросхемы в производство, образцы ожидаются в марте 2027 года. Массовый выпуск намечен на осень 2027 года. По сравнению с первым ускорителем DX-M1 пропускная способность памяти выросла втрое — с 50 до 150 ГБ/с.

Источник: iXBT