Arm AGI CPU, по расчётам самой Arm, обеспечивает в стойке в среднем 1,99 раза больше производительности, чем AMD EPYC 9755, в семи задачах для агентного ИИ. Это не готовый результат испытания двух заполненных стоек, а сочетание замеров отдельных процессоров и модели энергопотребления серверов — важная оговорка для команд, которые уже считают плотность AI-инфраструктуры и бюджет на электропитание.
О результатах Arm AGI CPU сообщает Tom's Hardware. Arm представила собственную методику оценки серверных CPU для агентных систем: вместо абстрактного числа одновременных агентов компания предлагает измерять полезную работу вокруг инференса — запросы к API и базам данных, поиск в векторном хранилище, подготовку данных, запуск изолированных сред и координацию задач для ускорителей.
В этом есть рациональное зерно. Модель на GPU может сгенерировать следующий шаг быстро, но агенту затем нужно выполнить команду, поднять контейнер, получить данные, вызвать внутренний сервис и сохранить состояние. Если CPU и память не справляются, ускоритель ждёт, а красивый показатель токенов в секунду перестаёт описывать реальную скорость процесса. Для разработчиков это знакомая картина: узким местом оказывается не LLM, а очередь к базе, холодный старт окружения или сервис, который никто не считал частью «AI-нагрузки».
Методику Arm разрабатывала при поддержке Fujitsu, Meta и OpenAI. Она предлагает сначала выделить сервисы и инструменты, которыми пользуется агент, затем воспроизводимо измерить их CPU-нагрузку и, наконец, проверить, ускоряет ли это выполнение конечной задачи. Для борьбы с непредсказуемостью агентских сценариев Arm предлагает проигрывать записанную последовательность действий: тогда разные серверы выполняют один и тот же набор операций, а задержки модели и внешних сервисов меньше искажают сравнение.
Семь тестов и не совсем одинаковые платформы
В сравнении участвовали MySQL, NGINX, векторная база Milvus, Terminal-Bench 2, воспроизведение задач SWE-bench, fastText и vLLM без собственно вычислений модели. Последний тест измеряет CPU-обвязку сервинга, а не пропускную способность GPU. Аналогично категория reasoning/planning в отчёте не оценивает, насколько хорошо рассуждает языковая модель: речь идёт о сопутствующих процессорных задачах.
На уровне одного чипа преимущество Arm было заметно, но далеко не двукратным. Относительно EPYC 9755 Arm получила 1,09x в Terminal-Bench 2, 1,13x в SWE-bench replay, 1,16x в CPU-overhead vLLM и 1,97x в fastText. В MySQL она уступила 12%, а в Milvus — 5%. Среднее арифметическое по семи нормализованным результатам составило 1,20x. Иными словами, главный заголовочный выигрыш рождается не в чистой скорости одного процессора, а при переходе к расчёту количества серверов в одной стойке.
Здесь сравнение требует особенно внимательного чтения мелкого шрифта. Для двух агентских тестов Arm использовала 128-ядерный CPU на 2,8 ГГц с DDR5-7200; для остальных пяти — 136-ядерную версию на 3,2 ГГц с DDR5-8000. AMD представлял 128-ядерный EPYC 9755 с DDR5-6400. Скрипты тестов были одинаковыми, но окружения различались: на стороне Arm применялись собственные сборки Linux 7.1.3 и Ubuntu 24.04, а для SWE-bench — Ubuntu 26.04; у AMD использовались Ubuntu 24.04 и Linux 6.8 с меняющимися настройками отдельных тестов. Такие различия не обнуляют результаты, но мешают приписать весь разрыв исключительно архитектуре процессора.
Почему в стойке разрыв становится почти двукратным
Модель Arm исходит из потребления 950 Вт для 128-ядерного и 1050 Вт для 136-ядерного сервера на своей платформе против 1700 Вт у AMD-сервера — с памятью и другими компонентами. Из 24 кВт мощности стойки около 8% резервируется под сеть и распределение питания. В остатке помещаются 23 или 21 сервер Arm либо 13 серверов AMD. Поэтому, например, преимущество в SWE-bench на уровне чипа в 1,13x превращается в 2,00x на уровне стойки: производительность одного узла умножается на большее число узлов.
У модели есть ещё один чувствительный параметр: AMD отведено примерно 2 ТБ памяти на сервер, Arm — около 1 ТБ. Расчёт использует 4 ГБ на аппаратный поток, а у EPYC на ядро приходятся два потока. Signal65 пересчитала сценарий с выделением памяти по физическим ядрам: среднее преимущество Arm в стойке уменьшилось с 1,99x примерно до 1,81x. Какая схема ближе к реальному кластеру, зависит от конкретных агентов и их контекста; SMT сам по себе не означает, что памяти нужно вдвое больше.
Проверку выполнила Signal65 по заказу Arm. Компания удалённо наблюдала прогоны, изучила логи, конфигурации и скрипты, а отдельная команда воспроизвела расчёты с отклонением не более 0,5%. При этом Signal65 не повторяла испытания на собственном железе и смогла независимо подтвердить BIOS- и memory-настройки только для системы с EPYC 9965, но не для Arm и EPYC 9755. Это независимая проверка арифметики и материалов теста, а не полностью независимый бенчмарк.
Для рынка важнее не спор о том, чей процессор «лучше вообще», а формирующийся язык измерений для агентного ИИ. AMD делает акцент на числе агентов на ватт, доллар и стойку, Nvidia — на однопоточной производительности, пропускной способности памяти и количестве параллельных CPU-окружений. Arm предлагает считать завершённую полезную работу. Пока производители выбирают разные наборы задач, бюджеты мощности и способы усреднения, цифры нельзя переносить из презентации в закупочную таблицу без собственного пилота. Вероятно, следующий этап конкуренции Arm AGI CPU, EPYC и серверных решений Nvidia пройдёт не только в дизайне ядер, но и в борьбе за то, какой тест индустрия признает честным.