Nvidia заявила о двукратном преимуществе процессора Vera над x86 в агентных задачах

Nvidia меняет взгляд на серверные процессоры: после нескольких лет роста числа ядер компании снова нужна высокая производительность каждого ядра. Об этом команда разработчиков процессора Vera рассказала в интервью Wccftech. По её словам, чипы облачной эпохи оптимизировали под пропускную способность и плотность размещения ядер, часто в ущерб однопоточным задачам.

Причина в характере работы ИИ-агентов: они непрерывно переключаются между вычислениями на GPU и последовательными операциями на CPU. Если процессор медленно обрабатывает очередной шаг, дорогой ускоритель простаивает.

Монолитный кристалл вместо чиплетов

Vera построена на одном вычислительном кристалле, тогда как многие конкуренты собирают процессор из нескольких чиплетов. Монолитная схема избавляет от задержек при передаче данных между кристаллами. Среди заявленных характеристик — память LPDDR5X с высокой пропускной способностью и двунаправленная пропускная способность обмена между половинами кристалла (bisection bandwidth) на уровне 3,4 ТБ/с. По утверждению Nvidia, это примерно втрое больше, чем у ведущих x86-процессоров.

Компания заявляет, что Vera в 1,5 раза производительнее предыдущего процессора Nvidia Grace. В агентных задачах, включая выполнение сценариев Python и компиляцию кода, разработчики обещают до двукратного преимущества перед ведущими x86-процессорами, а средний выигрыш по геометрическому среднему в выбранном наборе таких задач — 1,6 раза. Кроме того, Nvidia применяет собственную схему пространственной многопоточности, которая делит работу потоков на вычислительную часть и операции ввода-вывода. По словам команды, тесты показали прирост производительности на 20%, а не потери из-за накладных расходов.

Процессор не только для серверов с GPU

Vera позиционируется и как самостоятельное решение для стоек, целиком заполненных CPU. Такие системы могут выполнять вызовы инструментов ИИ-агентов и задачи обучения с подкреплением, не занимая ресурсы графических ускорителей. Прогноз о соотношении 80 CPU на один GPU, который обсуждают в отрасли, Nvidia не подтверждает, но признаёт: рост числа агентных задач увеличивает потребность в процессорных ресурсах. Некоторые поставщики инфраструктуры уже обслуживают сотни тысяч изолированных программных сред на одного клиента.

Разработчики подчёркивают, что монолитная компоновка не означает полного отказа от чиплетов: архитектуру будут выбирать под задачи и требования рынка. Главный тезис Nvidia — в инфраструктуре агентного ИИ важны не только число ядер и общая пропускная способность, но и скорость последовательных операций, доступ к памяти и обмен данными между ядрами. Именно это, по мнению компании, поможет Vera держать высокую загрузку GPU там, где ИИ-агенты выполняют множество небольших связанных задач.