Astera Labs анонсировала новый коммутатор Scorpio X, который предлагает 320 линий PCIe 6.0 с впечатляющей пропускной способностью — 5,12 Тб/с. Это решение позволит создавать высокоскоростные AI-системы, совместимые с различными ускорителями, предоставляя гибкость для разработчиков.
Контекст: Конкуренция на рынке AI
На рынке AI-оборудования взаимодействие между компонентами становится всё более критичным, особенно с ростом масштабов задач, связанных с машинным обучением. NVLink от Nvidia долгое время был еталоном для высокоскоростной связи между GPU, однако Astera стремится предоставить альтернативу, которая будет более доступной и совместимой с широким рядом устройств. Scorpio X не только увеличивает пропускную способность, но и минимизирует зависимость от единого производителя, что позволяет пользователям лучше настраивать свою инфраструктуру.Технические особенности Scorpio X
В Scorpio X входят функции, аналогичные Nvidia’s NVSwitch, которые позволяют улучшить коллективные коммуникации. Это особенно важно для работы с современными большими языковыми моделями, использующими архитектуры смеси экспертов (MoE). Эти модели требуют значительных сетевых ресурсов, поскольку для генерации каждого токена подключается группа различных экспертов, работающих на разных GPU. Astera представила отдельную функцию «Hypercast», оптимизированную для MoE, что позволяет эффективно управлять многократной передачей данных между группами.Значение для разработчиков и исследователей
Для российских AI-стартапов и исследовательских команд новое решение Astera открывает возможности для более дешёвого и масштабируемого развертывания AI-систем. Scorpio X особенно привлекателен для тех, кто работает с дезагрегированными архитектурами, где разные ускорители используются для различных этапов обработки данных. Это даст возможность смешивать решения от разных производителей, не ограничиваясь только Nvidia.Следующий шаг — расширение поддержки новых протоколов, таких как NVLink Fusion, что говорит о том, что Astera стремится интегрироваться в существующие экосистемы.