Чип Jalapeño от OpenAI продемонстрировал производительность, в 1,5-1,9 раза превышающую аналогичный показатель флагманских чипов Nvidia при потреблении всего 700 Вт. Это открывает новые горизонты для AI-приложений, а пользователям позволит экономить на энергии.
Контекст разработки
После того как Nvidia предоставила гарантию до $105 млрд для дата-центра OpenAI в Огайо, OpenAI представила свои тесты на Hot Chips, где Jalapeño обошел чипы Nvidia в публичных бенчмарках. Этот чип был разработан совместно с Broadcom и служит для выполнения задач инференса.
Технические характеристики и результаты
В испытаниях Jalapeño продемонстрировал 1,7-3,6 раза меньшую задержку и на 8,6-104,3 раз большую производительность на кВт при определенных настройках. Такие результаты были достигнуты в тестах на открытых моделях, таких как GPT-OSS 120B и Moonshot AI's Kimi K2.5.
Согласно данным SemiAnalysis, Jalapeño использует HBM4 и обеспечивает пропускную способность памяти 15,4 ТБ/с на пакет, что выше, чем у ускорителей на HBM3E. Таким образом, эффективность потребления энергии и мощности нового чипа выглядит впечатляюще.
Влияние на рынок
Для компаний, работающих в сфере AI, это означает возможность снизить затраты на инфраструктуру и увеличить производительность решений. В свете текущей нехватки HBM-оперативной памяти, которой обеспечивают основные игроки, такие как Samsung и Micron, OpenAI с Jalapeño в некотором роде становится «дыханием свежего воздуха» для разработчиков.
Что касается дальнейших шагов, OpenAI планирует запуск новых процессоров в своих дата-центрах в конце 2026 года.