BTC $60 886 +1.1%ETH $1 712 +1.4%SOL $70 -0.4%TON $0,99 +3.0%BTC $60 886 +1.1%ETH $1 712 +1.4%SOL $70 -0.4%TON $0,99 +3.0%
ииBittalk · по материалам iXBT

Microsoft запустила предварительную версию RDMA через USB4 для Windows

Microsoft запустила предварительную версию RDMA через USB4 для Windows

Microsoft выпустила предварительную версию RDMA поверх USB4 для разработчиков под Windows: несколько ПК можно объединить кабелями USB4 и разделить нагрузку одной ИИ-модели между их памятью и графическими ускорителями. Для трёх машин одному из компьютеров нужны два порта USB4. Способ подходит только современным ПК; для обычных задач смысла в нём нет.

Microsoft выпустила предварительную версию RDMA (Remote Direct Memory Access) через USB4 для разработчиков под управлением Windows. Технология позволяет объединить два и более ПК кабелями USB4 и запустить одну ИИ-модель, разделив её нагрузку между памятью и вычислительными ресурсами графических процессоров всех машин.

Для соединения нужен USB4 — он даёт заметно большую скорость передачи данных. Поэтому объединить так получится только достаточно современные компьютеры. Если машин три, у одной из них должно быть два порта USB4.

RDMA передаёт данные напрямую между памятью двух систем, минуя большую часть традиционного сетевого стека. Это даёт низкую задержку и малую нагрузку на CPU, поэтому технология давно стала частью систем хранения данных в дата-центрах и распределённых вычислений. Теперь у неё появилось новое применение.

По словам Microsoft, покупать сетевой адаптер RDMA, настраивать коммутатор и ставить сторонние драйверы не требуется. Провайдер NetworkDirect для USB4 и тестовая платформа на базе llama.cpp выложены с открытым исходным кодом.

Для демонстрации Microsoft протестировала схему на мини-ПК с Ryzen AI Max+ 395 и 128 ГБ оперативной памяти. Три подключённых компьютера запустили модель Qwen3-235B-A22B с 4-битным квантованием. Microsoft получила примерно 18,5 токена в секунду. AMD на своей конфигурации сообщила о 21,98 токена в секунду.

Источник

iXBT · права на исходный материал принадлежат автору.

Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».

Bittalk в Telegram

Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.

Читать в Telegram →

По теме