Cohere выпустила North Mini Code — новый открытый кодогенератор, который работает на процессе с одним H100. Он показывает производительность, превышающую конкурентов, таких как Mistral Devstral Small 2, в 2,8 раза по объему выводимых токенов.
Подробности о North Mini Code
North Mini Code построен как смесь экспертов с 30 миллиардами параметров, из которых активно используется 3 миллиарда на токен. Модель поддерживает контекстный размер в 256,000 токенов при максимальной длине генерации в 64,000 токенов. Эта мощная модель предназначена для программирования, включая архитектурное моделирование систем, обзор кода и выполнение задач непосредственно в терминале.
Cohere также настроила North Mini Code на выполнение сложных программных задач, таких как анализ архитектуры и управление зависимостями в больших кодовых базах. Модель была протестирована в реальных условиях и продемонстрировала высокую производительность при взаимодействии с терминалом, включая способность обрабатывать пакеты и командные скрипты.
Конкуренция и рыночные показатели
North Mini Code появился на фоне растущей конкурентной борьбы с такими проектами, как GitHub Copilot и другие инновационные решения. Согласно внутренним тестам Cohere, их новая модель превышает показатели аналогов по скорости и производительности, обеспечивая более чем на 30% меньшую задержку между токенами. Это серьезный аргумент для команд разработки, которые ищут варианты для оптимизации кода и ускорения работы.
Тестирование показало, что North Mini Code генерирует до 75 миллионов токенов для завершения проектов, в то время как конкуренты достигают только 25 миллионов. Это делает его идеальным выбором для компаний, работающих с большими объемами кода.
Выводы для IT-команд
Для разработчиков в России это открывает возможности использования мощного инструмента для автоматизации задач программирования. В условиях роста спроса на эффективные инструменты кода North Mini Code становится привлекательным выбором, позволяющим сократить время на производство и улучшить качество кода.
Следующий шаг для Cohere — адаптация модели под специфические требования и расширение функциональности, что поможет ещё больше упростить работу команд разработчиков.