AI И НЕЙРОСЕТИ

Sandisk и SK hynix готовят HBF на 512 ГБ для ИИ-ускорителей

До 3,12 ТБ памяти на ускоритель: Sandisk и SK Hynix продвигают high-bandwidth flash для AI-инференса, но у идеи есть жесткие ограничения.

✍️ Редакция iTech News | 31.07.2026 | ⏱ 3 мин | Источник: The Register
🌐

Sandisk и SK hynix продвигают HBF, новый класс флеш-памяти для ИИ-ускорителей. Идея простая: держать рядом с вычислительным чипом не только быструю HBM, но и куда более вместительную NAND-память, чтобы в один узел помещалось больше весов модели и дешевле обходился вывод.

Для русскоязычного рынка здесь важен не сам красивый слайд с терабайтами, а экономика. Если HBF дойдет до серийных систем, провайдерам и крупным командам станет проще запускать большие модели без лишнего распараллеливания по нескольким ускорителям и без такого объема дорогих межчиповых соединений.

Что именно стандартизуют Sandisk и SK hynix

25 февраля 2026 года компании объявили о совместной работе над стандартом HBF в рамках Open Compute Project. По замыслу Sandisk, это промежуточный слой между HBM и SSD: заметно быстрее обычной флеш-памяти, но намного вместительнее классической памяти ускорителей.

Для первого поколения Sandisk называет до 1,6 ТБ/с на чтение, емкость 256 Гбит на кристалл и до 16 кристаллов в стеке. Это дает до 512 ГБ на один стек. Дальше в дорожной карте фигурируют поколения с пропускной способностью до 2 ТБ/с и 3,2 ТБ/с.

Ключевое слово здесь не «быстрее HBM», а «ближе к ускорителю». HBF не предлагают как замену HBM. Речь о том, чтобы разместить рядом с GPU или ASIC намного больше памяти, чем сегодня дают стеки HBM, и сделать это через те же передовые схемы упаковки вроде CoWoS, EMIB и Foveros.

Почему HBF не заменит HBM

У NAND-флеш есть две старые проблемы, и магия упаковки их не отменяет: задержки выше, а ресурс записи ниже, чем у DRAM. Поэтому тезис «давайте просто заменим HBM на флеш-память» здесь не работает. Для часто переписываемых данных и чувствительных к задержке операций HBM по-прежнему нужна.

Зато у HBF есть понятный сценарий для вывода моделей. В инференсе значительная часть нагрузки сводится к многократному чтению весов, особенно в больших моделях и архитектурах MoE, где важнее быстро доставать нужные параметры, чем постоянно их перезаписывать. Для такого профиля чтение-чаще-записи HBF выглядит логичнее, чем обычная NAND в формате SSD.

Именно здесь в исходном тексте была важная неточность: HBF сравнивали с HBM4 так, будто она уже массово стоит в актуальных ускорителях AMD и Nvidia. Это не так. Сегодняшние ИИ-ускорители в основном опираются на HBM3E, а HBM4 только выходит на рынок. Поэтому корректнее говорить не о «замене HBM4», а о попытке обойти ограничение по объему памяти рядом с вычислителем.

Что это меняет для рынка ИИ-инфраструктуры

Если концепция взлетит, выиграют прежде всего облака, провайдеры GPU и корпоративные команды, которые считают стоимость вывода, а не только пиковую скорость обучения. Больше памяти рядом с ускорителем означает более плотные серверы для инференса, меньше зависимости от обмена данными между несколькими чипами и более предсказуемую себестоимость обслуживания крупных моделей.

Для России и СНГ это тоже практичная история. На локальном рынке дефицит ускорителей и высокая цена аренды GPU никуда не делись, поэтому любая архитектура, которая позволяет выжать больше из одного узла, быстро попадет в поле зрения интеграторов, облаков и крупных заказчиков. Но закладывать HBF в закупки рано: Sandisk говорит о первых образцах памяти во второй половине 2026 года, а о первых устройствах на HBF — в начале 2027-го.

Теперь главный вопрос не в том, можно ли подтащить флеш-память ближе к ускорителю, а в том, поддержат ли этот класс памяти разработчики самих ИИ-чипов и насколько убедительно он покажет себя не в презентации, а в стойке дата-центра.

Источники: Sandisk, SK hynix, IEEE Spectrum.

Поделиться: Telegram X LinkedIn