NVIDIA представила архитектуру Groq 3 LPX, которая обеспечивает до 35 раз больший throughput на ватт по сравнению с предыдущими моделями. Это критически важно для разработки высокоинтерактивных AI-систем, так как при сегодняшнем уровне потребления энергии эффективность становится первоочередной задачей.
Что нового в Groq 3 LPX
Groq 3 LPX принципиально улучшает взаимодействие между процессорами и обеспечивают детерминированное выполнение, позволяя точно планировать исполнение операций на каждом из 256 чипов LPU. Это дает не только увеличение производительности, но также снижает потребление энергии на 20-30% для одинаковых нагрузок.
Архитектура позволяет достигать высокой пропускной способности при оптимизации энергопотребления. В рамках этой платформы NVIDIA Vera Rubin обеспечивает функциональность, что позволяет использовать до 40% больше GPU в рамках одной энергосетевой системы, обеспечивая тем самым до 35% более высокую производительность токенов.
Энергоэффективность и растущие потребности в AI
По мере роста сложности и требований к AI-заданиям, оптимизация потребления энергии становится необходимости для автоматизированных систем. Согласно аналитическим данным, показатели производительности на ватт становятся ключевым индексом ценности для AI-фабрик. Groq 3 LPX, работая в связке с Vera Rubin, позволяет мостить gap между растущими требованиями и ограниченностями энергопотребления.
Для разработчиков и компаний, работающих в сфере AI, это означает, что теперь есть возможность значительно оптимизировать свои системы, одновременно сохраняя высокую производительность без постоянного роста затрат.
Следующий шаг для NVIDIA — расширение функций DSX MaxLPS, что позволит ещё больше улучшить управление энергией на уровне фабрик к 2026 году.
