Google открыла исходный код TorchTPU для PyTorch — своей реализации, которая должна упростить перенос AI-приложений с GPU Nvidia на фирменные Tensor Processing Units. Для русскоязычных команд, работающих с LLM и облачной инфраструктурой, это ещё один сигнал: привычная связка PyTorch и CUDA перестаёт быть единственным практичным маршрутом, хотя менять его пока готовы далеко не все.
Инструмент TorchTPU для PyTorch позволяет перенести существующее приложение на TPU и Google Cloud через изменение конфигурации, без переписывания кода, сообщает TechCrunch. Заявка громкая именно из-за исходной точки: PyTorch давно стал стандартным рабочим набором для обучения и запуска моделей, а его экосистема исторически лучше всего чувствует себя на видеокартах Nvidia.
PyTorch появился в Meta, тогда ещё Facebook, в 2016 году — задолго до бума генеративного ИИ. В 2022-м Meta передала проект Linux Foundation. За это время вокруг фреймворка выросла огромная экосистема библиотек, готовых моделей, инструментов инференса и инженерных привычек. По оценке, приведённой TechCrunch, PyTorch используется в 85% AI-приложений. Поэтому конкурентам Nvidia недостаточно выпустить собственный ускоритель: нужно убрать стоимость миграции для разработчика, который уже написал пайплайн под CUDA.
Google пытается решить именно эту проблему. TPU — не новый продукт, но до сих пор для многих PyTorch-команд переход на них означал отдельную интеграцию, ограничения совместимости и риск потратить время на отладку вместо работы с моделью. TorchTPU для PyTorch должен сократить этот барьер. Google также заявила о совместной работе с Meta, Hugging Face, Inferact — разработчиком vLLM, — RadixArk, создателем SGLang, и другими участниками экосистемы. Цель проста: чтобы популярные инструменты вокруг моделей работали на TPU настолько же предсказуемо, насколько разработчики привыкли ожидать от PyTorch на Nvidia.
Почти синхронно похожий ход сделала Amazon. Компания представила TorchNeuron — вариант PyTorch для собственных чипов Trainium и AWS. Amazon пошла дальше на уровне базового проекта: она намерена внести в основной PyTorch код, который ослабит привязку отдельных компонентов к аппаратуре Nvidia. Это важная деталь. Если альтернативные ускорители поддерживаются через периферийные адаптеры, разработчик всё равно воспринимает их как компромисс. Если же переносимость закладывается в сам фреймворк, выбор железа постепенно становится обычной инфраструктурной задачей, а не архитектурным риском.
У Google есть и дополнительный слой для миграции: TPU agent suite. Набор инструментов должен помогать переносить приложения в Google Cloud и разбираться с ошибками на этом пути. Кроме того, компания обновила LiteRT — инструмент для запуска ИИ на смартфонах, ноутбуках и встроенных устройствах, — чтобы он лучше работал с приложениями на PyTorch. В результате Google строит не только мост от PyTorch к TPU, но и более цельную историю от облачного обучения до исполнения модели на устройстве.
Для разработчиков это не означает, что CUDA завтра станет необязательной строкой в резюме. У Nvidia остаются зрелая экосистема, инструменты профилирования, документация, опыт эксплуатации и большой объём уже написанного кода. Формально «без переписывания» не равно «без проверки»: команде всё равно придётся измерять производительность, стоимость, стабильность библиотек и поведение модели в собственном пайплайне. Особенно это касается сложного инференса, распределённого обучения и проектов с нестандартными CUDA-расширениями.
Для бизнеса эффект может оказаться заметнее, чем для отдельного ML-инженера. Чем дешевле становится перенос между GPU, TPU и Trainium, тем сильнее позиция заказчика в переговорах с облаком и поставщиком железа. Стартапы получают больше вариантов для расчёта стоимости обучения и инференса, а крупные компании — меньше зависимости от единственного технологического стека. При этом экономия должна подтверждаться бенчмарками конкретной нагрузки: цена часа ускорителя сама по себе мало говорит о цене обработанного токена или обученного чекпойнта.
Рынок ускорителей не переворачивается одним репозиторием, но Google и Amazon бьют по главному преимуществу Nvidia — привычке разработчиков писать под её платформу по умолчанию. Если TorchTPU для PyTorch и TorchNeuron действительно сохранят совместимость с ключевыми библиотеками без болезненных доработок, конкуренция перейдёт от обещаний о производительности к более неудобному для Nvidia вопросу: почему приложение вообще должно быть привязано к одному типу чипов? Подробнее об анонсе — в .
