AI И НЕЙРОСЕТИ

Qualcomm прячет вычисления под памятью ради AI-инференса

Qualcomm обещает до 768 ГБ памяти и 133 ТБ/с на карту в новых AI-ускорителях. Ставка — на near-memory compute вместо привычной схемы GPU+HBM.

✍️ Редакция iTech News | 01.07.2026 | ⏱ 5 мин | Источник: The Register
🧠

Qualcomm решила догонять рынок ИИ не лобовой атакой на Nvidia, а через архитектурный разворот: новые ускорители Qualcomm для дата-центров получат до 768 ГБ памяти на карту и заявленные 133 ТБ/с «эффективной» пропускной способности. Для разработчиков и инфраструктурных команд это важный сигнал: гонка в AI-железе все меньше сводится к голым FLOPS и все больше упирается в то, как быстро и с какими потерями чип подвозит данные к вычислениям.

О планах компания рассказала на Investor Day 2026, сообщает The Register. Qualcomm собирается вывести в следующем году ускорители серии AI250 в составе стоек Dragonfly и сделать ставку на собственную схему high-bandwidth compute, или HBC. Идея в том, чтобы укладывать несколько слоев DRAM прямо поверх XPU и превращать вычислительный и память-компоненты в единый модуль. В Qualcomm утверждают, что такая компоновка даст преимущества SRAM по скорости доступа, но при этом сохранит плотность и емкость, характерные для стеков высокоскоростной памяти.

Если убрать маркетинговый глянец, тезис у Qualcomm довольно приземленный: индустрия уперлась в memory wall, и для инференса это уже не абстрактная проблема из учебников по архитектуре, а ежедневная статья расходов. На обычном серверном GPU данные постоянно гоняются между вычислительными кристаллами и памятью HBM. Даже с продвинутой упаковкой вроде 2.5D-интерпозеров это стоит энергии, греет систему и съедает полезную эффективность. Qualcomm предлагает сократить путь: часть логики увести под DRAM и связать все это через TSV, то есть сквозные кремниевые соединения. Чем короче маршрут между памятью и вычислениями, тем меньше затрат на перевозку байтов, а в AI-инференсе именно перевозка байтов часто и оказывается главным налогом на производительность.

Отсюда и ключевая формулировка Qualcomm про «эффективную» пропускную способность. Компания делает акцент не на том, сколько физически гигабайт в секунду проходит по интерфейсу памяти, а на том, сколько полезной работы система способна извлечь из близости DRAM и логики. Для AI250 заявлены 18-кратный рост такой «эффективной» пропускной способности относительно AI200 и 54-кратный для будущего AI300. Но здесь начинается территория, где инженеры обычно тянутся не к аплодисментам, а к калькулятору. The Register отдельно отмечает, что Qualcomm не раскрыла достаточно деталей, чтобы проверить эти цифры на уровне физического интерфейса. Компания настаивает, что речь идет о «чистой физической пропускной способности интерфейса LPDDR», но конкретики мало. Иными словами, цифры звучат громко, однако читать их пока стоит как обещание архитектурного эффекта, а не как прозрачную спецификацию по шине памяти.

Самое интересное в этой истории не спор о терминах, а то, где именно такая схема может реально выстрелить. Высокая пропускная способность памяти особенно полезна на стадии decode, когда модель по одному токену вытягивает активные веса из памяти. Это место в пайплайне не такое прожорливое по вычислениям, как prefill или обучение, зато очень чувствительное к скорости доставки данных. Поэтому near-memory compute выглядит логично именно для инференса, особенно в больших языковых моделях. Qualcomm прямо говорит, что AI250 можно использовать как самостоятельный ускоритель, но еще важнее другой сценарий: в разнесенной архитектуре инференса, где одни чипы занимаются prompt processing, а отдельный ускоритель берет на себя память-интенсивный decode. Для облаков и крупных AI-платформ это уже не экзотика, а вполне рабочая модель построения сервиса.

Контекст для этого анонса тоже показателен. В мобильном мире Qualcomm давно живет с AI на кристалле: NPU встроены почти в каждый современный Snapdragon. Но в дата-центрах компания до сих пор выглядела скорее наблюдателем, чем игроком первого эшелона. На фоне Nvidia, AMD и более узкоспециализированных стартапов ее прежние AI-ускорители не вызывали такого же ажиотажа. Теперь Qualcomm пытается зайти с другой стороны: не спорить, у кого красивее слайды про универсальный GPU, а показать, что для инференса узкое место давно сместилось из блока математики в блок движения данных. Это совпадает с общим трендом рынка. Крупные поставщики уже ищут, как встраивать больше логики ближе к памяти, а не просто наращивать вычислительные блоки и теплопакет. По данным The Register, подобными вариантами занимаются и конкуренты Qualcomm, а значит сама идея не выглядит научной фантастикой.

Отдельный штрих к стратегии компании — покупка AI-стартапа Modular, о которой Qualcomm объявила примерно в те же дни. Это важно не только как сделка ради заголовка. Modular связана с Крисом Латтнером, создателем LLVM, Clang, Swift и MLIR, а также с языком Mojo, который продвигался как низкоуровневый инструмент для высокопроизводительного программирования ускорителей. Если Qualcomm всерьез хочет продавать ускорители Qualcomm в дата-центры, одного красивого корпуса с DRAM сверху мало. Нужны компиляторы, рантайм, инструменты интеграции и понятная модель разработки под новую архитектуру. На рынке AI-инфраструктуры железо без софта обычно заканчивает путь на красивом стенде и в печальном PDF для инвесторов.

Для бизнеса и инженерных команд здесь главный вопрос звучит просто: сможет ли Qualcomm превратить near-memory compute из убедительной презентации в предсказуемую платформу с нормальной экономикой инференса. Если AI250 действительно снизит энергопотребление и даст выигрыш на decode в реальных кластерах, рынок получит не еще один «убийцу GPU», а более полезную вещь: специализированный компонент для разнесенных AI-систем. Если же за громкими словами про «эффективную» пропускную способность не окажется измеримого преимущества в проде, все снова сведется к тому, что байты ездят дорого, а маркетинг — бесплатно.

Поделиться: Telegram X LinkedIn