Nvidia представила архитектуру Groq 3 LPX, продемонстрировав рекордный показатель в 3431 токенов вывода в секунду во время мероприятия Hot Chips 2026. Данный аспект подчеркивает значительные успехи компании в области обработки данных для нейронных сетей, что становится особенно важным в условиях стремительного роста спроса на искусственный интеллект.
Что известно о производительности Groq 3 LPX
На сцене Hot Chips Igor Arsovski, вице-президент Nvidia, поделился числовыми результатами тестирования архитектуры, проведенного на модели Gemma 4 31B. Полученные 3431 токенов в секунду стали ощутимым улучшением по сравнению с 870 токенами у ближайшей альтернативной платформы. Arsovski подтвердил, что система уже запущена в производство на базе чипа LP30, который Nvidia получила в рамках сделки с Groq на сумму $20 миллиардов в декабре 2025 года.
Технические характеристики и детали
Каждое устройство LP30 располагает 500 МБ встроенной памяти SRAM без использования HBM, а полный стенд LPX включает 256 чипов и может предоставить 128 ГБ памяти с агрегатной пропускной способностью 40 ПБ/с. Это позволяет достигать 315 PFLOPS вычислительной мощности при задержке между чипами всего 350 нс. Arsovski также отметил, что такая архитектура снижает задержки, связанные с доступом к памяти, что является решающей характеристикой для производительности искусственного интеллекта.
Практическое значение для разработчиков
Для профессионалов в области разработки и интеграции AI-систем это означает создание более эффективных и быстрых решений. Учитывая, что текущие тренды показывают растущий спрос на высокопроизводительные решения для вычислений, Groq 3 LPX может стать значительным конкурентным преимуществом для компаний, следующих за интеграцией нейросетевых решений.
Следующий шаг для Nvidia — публикация третьих сторон проверенных бенчмарков, на которые смогут опираться разработчики. Это поможет установить доверие к архитектуре и её применимости в реальных сценариях.