Nvidia представила Nemotron 3.5 Bolt 74B-A9B 24GB — модель с 74 млрд параметров, чьи требования к памяти удалось уложить в 24 ГБ. Для команд, которым нужны локальные ИИ-агенты для кода, исследований и работы с инструментами, это важнее очередного рекорда в облачном бенчмарке: такую модель можно запускать на сравнительно компактном железе, не отправляя каждый запрос внешнему API.
О выпуске сообщает The New Stack. Главный технический трюк — двухбитная квантизация части модели: Nvidia уменьшила занимаемый объём без перехода к совсем маленькой архитектуре. Bolt построена как гибридная mixture-of-experts-модель: из 74 млрд параметров при выводе активны 9 млрд. Это позволяет сохранить большой общий объём знаний, но не держать всю вычислительную нагрузку включённой на каждом токене.
Название 24GB здесь важнее маркетинговой приставки «74B». Речь не о том, что любая машина с 24 ГБ оперативной памяти внезапно превратится в рабочую станцию для серьёзной модели. Компания говорит о памяти, требуемой для размещения модели; в реальном сценарии также важны видеопамять, производительность ускорителя, размер контекста, используемый рантайм и запас под остальные процессы. Но планка в 24 ГБ заметно ближе к конфигурациям с дискретной графикой и компактным системам Nvidia, чем к серверу с несколькими GPU.
В Nvidia позиционируют Bolt для повседневных агентных задач: многошагового рассуждения, вызова инструментов, веб-навигации, программирования и диалогов. Поддержка заявлена для llama.cpp, Ollama, LM Studio и vLLM. Для разработчика это означает менее экзотичный путь от весов модели к прототипу: можно проверить агента в привычном локальном стеке, а не сначала собирать инфраструктуру вокруг облачного провайдера. Для компаний с жёсткими требованиями к данным локальные ИИ-агенты становятся ещё и способом сократить число запросов, покидающих периметр.
Сравнения с конкурентами Nvidia приводит по собственным тестам, поэтому воспринимать их стоит как ориентир, а не как независимый вердикт. На Terminal-Bench 2.1 Nemotron 3.5 Bolt набрала 51,0 балла; у Qwen3.6-35B-A3B указано 44,4, у Gemma4 26B-A4B — 37,2. При этом соперники в сравнении тестировались в BF16, тогда как Bolt использует смешанную точность и двухбитные экспертные слои. Это не отменяет практической ценности результата, но делает прямое сопоставление «балл к баллу» несколько менее честным, чем хотелось бы в презентации нового семейства.
Одновременно Nvidia выпустила Nemotron 3.5 Super VL — мультимодальную модель на 120 млрд параметров. У неё, как и у мартовской Nemotron 3 Super, активны 12 млрд параметров, а контекстное окно достигает миллиона токенов. В отличие от предшественницы, Super VL принимает изображения и видео, но не генерирует их. Компания обучала языковую часть с дистилляцией от Nemotron 3 Ultra, затем дообучала её на задачах разработки, зрения и агентов. В архитектуре сочетаются Mamba-2, attention и MoE-слои, а для ускорения генерации применяется спекулятивное декодирование LiLiCorr.
По данным Nvidia, на DGX Spark этот механизм способен ускорить генерацию токенов Super VL до 2,3 раза относительно декодирования без спекуляции. В собственных сравнениях Super VL обходит Qwen3.5-122B-A10B на научном рассуждении и терминальных задачах, но немного уступает на SWE-bench Verified и понимании документов. Это полезная оговорка: Nvidia не пытается выдать модель за универсального победителя. В агентной разработке качество работы с репозиторием, документами и инструментами обычно важнее одного красивого среднего числа.
Позже в октябре Nvidia обещает ещё более компактную Nemotron 3.5 Bolt E4B 4GB. Её целевые сценарии — диалоговые и физические агенты на GeForce RTX, Jetson и Spark: помощники на устройстве, интерактивные персонажи и приложения, которым нужно помнить состояние диалога и вызывать инструменты. Старшая Bolt и Super VL уже доступны для скачивания по лицензии OpenMDW 1.1, допускающей коммерческое использование и модификации.
Для российского рынка это не отменяет вопроса доступа к подходящим GPU и зрелой локальной инфраструктуры, зато меняет саму экономику эксперимента. Следующая проверка для Nvidia — не вместить ещё больше параметров в ещё меньше памяти, а доказать, что квантизированные модели стабильно выполняют реальные цепочки действий: читают код, вызывают сервисы, не теряют контекст и не требуют инженера на дежурстве после каждого второго шага. Подробные характеристики и результаты тестов опубликованы в материале .