Cerebras Systems утверждает, что её чипы теперь обрабатывают триллионную AI-модель Kimi K2.6 на скорости почти 1000 токенов в секунду, что в 6,7 раз быстрее, чем у ближайших соперников на базе GPU. Это прорывное достижение важно для всех, кто работает с большими данными и требует быстрой обработки AI-запросов.
Краткий обзор рынка и конкуренции
На фоне бурного роста спроса на AI-приложения, Cerebras стремится утвердиться в быстро развивающемся сегменте обработки AI-моделей. С запуском Kimi K2.6 компания хочет продемонстрировать, что её чипы справляются с задачами высокой сложности, ранее доступными только для традиционных GPU. Конкуренты, такие как NVIDIA и AMD, столкнутся с новой угрозой в лице этой инновационной архитектуры.
Технические характеристики новой модели
Модель Kimi K2.6, разработанная китайской компанией Moonshot AI, является первой триллионной моделью весов с открытым кодом, которую Cerebras представляет на рынке. С ней достигается рекордная скорость: полнофункциональная кодировка с 10 000 токенов входа обрабатывается за 5,6 секунды, что намного быстрее, чем 163,7 секунды у стандартных решений. Такой прирост в скорости открывает новые возможности для бизнеса и разработчиков.
По словам Джеймса Вана, директора по маркетингу продукта Cerebras, компания нацелена на «нагрузки с высоким спросом», которые ранее ограничивались тонкими и средними моделями. Это значит, что Cerebras теперь может привлекать клиентов, стремящихся к высокой производительности в критически важных приложениях.
Значение для бизнеса
Для российских и СНГ-команд это означает необходимость пересмотра своих AI-стратегий. Переход на более мощные решения может привести к значительным сокращениям времени обработки моделей и затрат на API. В условиях растущей популярности кодирования и автоматизации, те компании, которые не успеют адаптироваться, рискуют потерять конкурентные преимущества.
Cerebras намерена продолжать развиваться в этом направлении, и очередными целями компании могут стать новые модели и технологии, потенциально ещё более впечатляющие, чем Kimi K2.6.