Разработчики проверили обещанное Nvidia ускорение DFlash до 15 раз: получилось 2,3 раза

Разработчики протестировали технологию DFlash от Nvidia на модели Gemma 4 26B. Вместо обещанных 15 раз ускорения пропускной способности они зафиксировали 2,3 раза, причём только при одиночном запросе. При росте параллельной нагрузки эффект исчезает, а при восьми одновременных запросах технология начинает уступать обычной обработке. Авторы теста разбирают, откуда берутся показатели производителя.
Независимые разработчики проверили обещанное Nvidia ускорение вывода LLM с помощью технологии DFlash. На стенде с моделью Gemma 4 26B прирост пропускной способности составил 2,3 раза — при том, что вендор заявлял о цифре «до 15 раз» для архитектуры Blackwell.
Тестирование проводилось с драфтером DFlash, который размещён прямо в репозитории модели Gemma 4 26B. Ускорение проявилось только в конфигурации с одним активным запросом к модели. При запуске четырёх параллельных запросов прирост исчез, а при восьми одновременных обращениях система с DFlash начала уступать обычному режиму обработки.
Разработчики не называют причин расхождения их результатов с вендорскими и не дают рекомендаций по использованию технологии. Они лишь отмечают, что «магические» показатели производителя требуют проверки в реальных сценариях нагрузки. Детали методики теста и графики опубликованы в материале авторов.
Хабр ИИ · права на исходный материал принадлежат автору.
Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».
Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.
Читать в Telegram →По теме
- ▪Microsoft сделает Copilot средством диагностики неполадок Windows3DNews · 18 ноября
- ▪Google открыла бесплатный доступ к ИИ-агенту Gemini Tasks в шести странахiXBT · 18 ноября
- ▪OpenAI выпустила GPT-6.2 Astra и Sol: Astra в API подешевела на 20%Tproger · 17 ноября
- ▪Сбер оценил выручку ОМК в 2,569 трлн рублей до 2036 годаiXBT · 17 ноября