AMD и Intel договорились свести свои оптимизации инференса в PyTorch к одной библиотеке — oneDNN для PyTorch. Для команд, которые запускают модели на серверных CPU разных производителей, это означает меньше развилок в коде и меньше ручной настройки: backend должен сам выбрать подходящие ядра под конкретный процессор.
Как сообщает Tom's Hardware, AMD переносит наработки из своей библиотеки ZenDNN в открытую oneDNN, которой занимается UXL Foundation. Одновременно AMD вошла в фонд в статусе steering member — участника, влияющего на развитие проекта; такой статус предполагает ежегодный взнос в 20 тыс. долларов.
Один backend вместо двух наборов оптимизаций
ZenDNN была downstream-версией oneDNN: AMD брала базовую библиотеку и добавляла оптимизации для архитектур Zen. Теперь эти изменения планируют развивать непосредственно в основном открытом проекте. Практический смысл не в том, что Intel и AMD внезапно перестали конкурировать за дата-центры, а в том, что общая инфраструктура обходится дешевле параллельных веток кода и понятнее пользователям PyTorch.
oneDNN отвечает за низкоуровневые операции, на которых держится CPU-инференс: матричные умножения, свёртки и другие типовые блоки нейросетей. Библиотека определяет доступные аппаратные возможности во время запуска и подбирает оптимизированные вычислительные ядра для конкретной платформы. Она также поддерживает форматы пониженной точности, важные для ускорения и экономии памяти при работе с моделями.
Для разработчика это должно выглядеть скучно — а это хороший признак. Вместо выбора между разными цепочками оптимизаций для серверов на Intel Xeon и AMD EPYC можно опираться на единый backend. Не всякая задача уйдёт с GPU на CPU: обучение крупных моделей и массовый инференс с высокой параллельностью по-прежнему часто требуют ускорителей. Но CPU остаются логичным выбором для умеренных нагрузок, подготовки данных, внутренних сервисов, edge-развёртываний и случаев, когда важнее использовать уже купленное серверное железо, чем строить отдельный GPU-кластер.
Ставка на совместимость x86
Инициатива выросла из x86 Ecosystem Advisory Group — совместной площадки Intel и AMD, созданной в 2024 году. Ранее компании уже работали через неё над ACE, набором расширений для x86. Их кооперация ограничена слоями, где единые правила помогают экосистеме: общий код, инструменты и совместимость. В выборе самих процессоров, ценах, производительности и собственных платформах для ИИ конкуренция никуда не девается.
История oneDNN для PyTorch тоже не начинается с нуля. Backend добавили в PyTorch в конце 2023 года; тогда сообщалось о приросте производительности в 1,24 раза для Float32 и в 2,21 раза для BFloat16. Эти цифры нельзя переносить на любой сервис: результат зависит от модели, размера батча, памяти, версии фреймворка и процессора. Зато они хорошо показывают, почему низкоуровневая оптимизация CPU не сводится к компиляции кода с очередным флагом.
Для российских команд новость особенно прикладная там, где парк серверов неоднороден: часть workloads работает на Intel, часть — на AMD, а контейнеры и пайплайны должны жить одинаково в нескольких площадках. oneDNN для PyTorch уменьшает риск, что перенос модели на другой x86-сервер превратится в отдельную инженерную задачу с новыми зависимостями и замерами. Проверять производительность всё равно придётся на собственных моделях: единый путь исполнения не обещает одинаковой скорости на разных поколениях CPU.
oneDNN при этом не замыкается на x86: библиотека работает также с Arm и RISC-V. Intel создала проект на базе прежних библиотек для глубокого обучения, а затем он вошёл в UXL Foundation, среди основателей которой были Intel, Arm, Qualcomm, Google Cloud и другие компании. Вступление AMD делает управление проектом заметно менее односторонним и повышает шанс, что оптимизации для Zen не будут существовать на правах внешнего приложения.
Главный вопрос теперь не в самом объединении кода, а в темпе его превращения в удобный инструмент для релизов PyTorch и реальных продакшен-нагрузок. Если единый backend будет регулярно получать оптимизации для новых CPU обеих компаний, x86-серверы станут чуть менее фрагментированной площадкой для ИИ-инференса — без громких обещаний, зато с вполне измеримыми миллисекундами и счетами за инфраструктуру. Подробнее об анонсе — в .
