Nvidia достигла рекордов производительности в тестах MLPerf благодаря новейшим графическим процессорам Blackwell Ultra. За счет совместного проектирования аппаратного обеспечения и программного обеспечения, компания смогла достичь в 2,7 раза большей скорости обработки и снизить стоимость токенов на 60%.
Что стоит за достижениями Nvidia
В новых тестах MLPerf Inference v6.0 Nvidia стала единственной компанией, продемонстрировавшей результаты по всем новым моделям, включая сложные ребрендинги, такие как DeepSeek-R1 Interactive и GPT-OSS-120B. В этом раунде Nvidia подтвердил своё доминирование с 291 победой на конкурсе MLPerf с 2018 года, что в 9 раз больше, чем у всех остальных участников вместе взятых.
Только Nvidia внедрила все новые тесты и сценарии, включая тесты на мульти-параметрических моделях. Существенный вклад в высокую производительность был сделан через оптимизацию таких технологий, как TensorRT-LLM и Dynamo. Например, использования технологий как kernel fusion и KV-aware routing значительно повысили эффективность обработки.
Значение для бизнеса и разработчиков
Для компаний, работающих в сфере AI и нейросетей, такие достижения означают возможность снизить издержки на обработку данных и повысить общую эффективность работы приложений. Уже сейчас многие разработчики в России сталкиваются с ростом цен на компоненты, в первую очередь на GPU, и снижение стоимости токенов от Nvidia может помочь оптимизировать бюджеты на проектирование AI-систем.
В контексте российских реалий, работа с платформами Nvidia остаётся критически важной. Конкуренты, такие как AMD и Google, пока не могут обеспечить такой же уровень производительности и экономии, что делает Nvidia единственным выбором для многих ключевых проектов.
В ближайшем будущем, Nvidia планирует продолжить работу над новыми стандартами в области AI, что позволит увеличить эффективность их оборудования еще больше.