Разработчики проверили обещанное Nvidia ускорение DFlash до 15 раз: получилось 2,3 раза

Независимые разработчики проверили обещанное Nvidia ускорение вывода LLM с помощью технологии DFlash. На стенде с моделью Gemma 4 26B прирост пропускной способности составил 2,3 раза — при том, что вендор заявлял о цифре «до 15 раз» для архитектуры Blackwell.

Тестирование проводилось с драфтером DFlash, который размещён прямо в репозитории модели Gemma 4 26B. Ускорение проявилось только в конфигурации с одним активным запросом к модели. При запуске четырёх параллельных запросов прирост исчез, а при восьми одновременных обращениях система с DFlash начала уступать обычному режиму обработки.

Разработчики не называют причин расхождения их результатов с вендорскими и не дают рекомендаций по использованию технологии. Они лишь отмечают, что «магические» показатели производителя требуют проверки в реальных сценариях нагрузки. Детали методики теста и графики опубликованы в материале авторов.