Nvidia представила новые технологии Vera Rubin и Blackwell, которые демонстрируют до 30 раз большую производительность ИИ на мегаватт по сравнению с предыдущими решениями. Это обозначает значительный шаг вперед в эффективности вычислений, что критично для современных дата-центров.
Контекст и конкурентная среда
Индустрия AI активно развивается, и производительность становится ключевым фактором для компаний, которые стремятся оптимизировать свои ресурсы. Nvidia продолжает опережать конкурентов, таких как AMD и Intel, предлагая решения, которые значительно превышают показатели предыдущих поколений.
Детали новых технологий
Согласно информации от Nvidia, система Vera Rubin NVL72 показала до 30 раз более высокую производительность ИИ на мегаватт по сравнению с предшественником GB300 NVL72. А GB300 NVL72 достиг до 80 раз более высокой производительности на мегаватт для крупных моделей, таких как Kimi K3 2.8T, по сравнению с H200 NVL8, что свидетельствует о мощных системных оптимизациях.
Эти успехи были достигнуты благодаря внедрению новых технологий, таких как SGLang и TensorRT-LLM, а также использованию форматов смешанной точности MXFP4 и MXFP8. Кроме того, высокая пропускная способность соединений через NVIDIA NVLink позволяет объединить до 72 графических процессоров для эффективной обработки данных в рамках одной системы.
Практическое значение для ИТ-команд
Для разработчиков в России и СНГ это открывает новые горизонты в создании и оптимизации AI-приложений. С увеличением производительности до 30 раз на мегаватт компании могут значительно сократить затраты на энергоресурсы и улучшить быстродействие своих систем. Это критически важно для стартапов и больших компаний, стремящихся к масштабированию их инфраструктуры под задачи AI.
Следующий шаг для Nvidia — запуск новых чипов и обновление линеек продуктов, что позволит пользователям еще более эффективно использовать мощные вычислительные ресурсы.