Microsoft запустила предварительную версию RDMA через USB4 для Windows

Microsoft выпустила предварительную версию RDMA поверх USB4 для разработчиков под Windows: несколько ПК можно объединить кабелями USB4 и разделить нагрузку одной ИИ-модели между их памятью и графическими ускорителями. Для трёх машин одному из компьютеров нужны два порта USB4. Способ подходит только современным ПК; для обычных задач смысла в нём нет.
Microsoft выпустила предварительную версию RDMA (Remote Direct Memory Access) через USB4 для разработчиков под управлением Windows. Технология позволяет объединить два и более ПК кабелями USB4 и запустить одну ИИ-модель, разделив её нагрузку между памятью и вычислительными ресурсами графических процессоров всех машин.
Для соединения нужен USB4 — он даёт заметно большую скорость передачи данных. Поэтому объединить так получится только достаточно современные компьютеры. Если машин три, у одной из них должно быть два порта USB4.
RDMA передаёт данные напрямую между памятью двух систем, минуя большую часть традиционного сетевого стека. Это даёт низкую задержку и малую нагрузку на CPU, поэтому технология давно стала частью систем хранения данных в дата-центрах и распределённых вычислений. Теперь у неё появилось новое применение.
По словам Microsoft, покупать сетевой адаптер RDMA, настраивать коммутатор и ставить сторонние драйверы не требуется. Провайдер NetworkDirect для USB4 и тестовая платформа на базе llama.cpp выложены с открытым исходным кодом.
Для демонстрации Microsoft протестировала схему на мини-ПК с Ryzen AI Max+ 395 и 128 ГБ оперативной памяти. Три подключённых компьютера запустили модель Qwen3-235B-A22B с 4-битным квантованием. Microsoft получила примерно 18,5 токена в секунду. AMD на своей конфигурации сообщила о 21,98 токена в секунду.
iXBT · права на исходный материал принадлежат автору.
Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».
Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.
Читать в Telegram →По теме
- ▪OpenAI: ИИ-агенты сами выполняют 46% коротких исследовательских задачiXBT · 22 ноября
- ▪Почти 1000 ИИ-агентов за 12 недель подготовили 936 исследований и запустили свой журналiXBT · 22 ноября
- ▪Нейросеть Tiny 2.1 на 367 тысяч параметров помещается на дискету 1,44 МБiXBT · 22 ноября
- ▪Трамп обсуждает запрет на зарубежные дата-центры американских компанийiXBT · 21 ноября