Nvidia представила новейшую методику обучения с использованием низкой точности FP8, что позволяет увеличить производительность в 2 раза по сравнению с существующими методами. Для разработчиков это значит возможность более эффективного обучения нейросетей за счёт снижения вычислительных затрат.
Что нового в FP8
Алгоритмы обучения с подкреплением (RL) становятся всё более популярными, особенно при обучении сложных моделей. В частности, Nvidia использует техники, такие как Group Relative Policy Optimization, для повышения качества управления моделями. Такая продукция позволяет проводить обучение с высоким уровнем итеративной обратной связи.
FP8 (формат с плавающей запятой 8 бит) значительно оптимизирует работу с данными. По сравнению с BF16, вычисления на FP8 обеспечивают в два раза большую пропускную способность, что крайне важно для приложений, занимающихся обработкой больших объёмов данных.
Решения для уменьшения численных ошибок
Проблема численной точности в алгоритмах RL всегда была актуальной, особенно при использовании различных вычислительных движков, как vLLM и Megatron Core. В условиях низкой точности статическая разница в числах может негативно сказаться на результатах обучения.
Nvidia протестировала несколько рецептов и пришла к выводу, что использование FP8 как для генерации, так и для обучения значительно снижает численные расхождения. Это подтверждается измерениями, показывающими, что конечная версия метода демонстрирует более низкие показатели ошибок по сравнению с использованием BF16 исключительно для обучения.
Значение для разработчиков
Для разработчиков в России это означает, что теперь можно более эффективно организовывать обучение ИИ, сократив затраты на оборудование. Низкие требования к вычислительным ресурсам FP8 открывают новые возможности для стартапов и исследовательских организаций, которые могут использовать более доступные решения для достижения качественных результатов.
Следующий шаг для Nvidia — представление новых обновлений во втором квартале 2026 года, которые должны обеспечить ещё большее повышение производительности при минимальных затратах.