Alibaba представила свою новую AI-модель — Metis, которая снижает количество избыточных вызовов инструментов с 98% до всего 2%. Это важный шаг, так как уменьшение вызовов снижает затраты и время отклика AI-систем, что критично для бизнес-решений.
Проблема избыточных вызовов
Одной из основных задач при разработке эффективных AI-агентов является умение выбирать между использованием внешних инструментов и внутренней информацией. Чаще всего языковые модели вызывают инструменты без всякой необходимости, в результате чего возникают задержки, увеличиваются затраты на API и ухудшается качество решений из-за шума в контексте.Исследователи Alibaba решили эту проблему, внедрив иерархическую раздельную оптимизацию политики (HDPO) — метод глубокого обучения, обучающий агентов балансировать между эффективностью выполнения задач и их точностью.
Результаты и эффективность
Модель Metis, обученная с использованием HDPO, не только снизила вызовы инструментов, но и показала новую рекордную точность по ключевым отраслевым показателям. Вам больше не нужно беспокоиться о том, что система будет слишком активно вызывать внешние ресурсы — Metis становится более разумной, «зная», когда стоит действовать.HDPO разделяет сигналы точности и эффективности на две независимые категории. Это позволяет обучать модели более последовательно, тем самым улучшая их способность к заданию без избыточных вызовов инструментов, которые лишь отвлекают и создают шум в процессе обработки информации.
Выводы для разработчиков
Для русскоязычных разработчиков такая модель может стать важным инструментом для оптимизации затрат на API, что в условиях возрастающих цен на облачные технологии крайне актуально. С учетом растущих требований к эффективности и скорости систем, использование Metis может позволить вашим проектам добиться более высокой производительности при более низких затратах.Следующий шаг для Alibaba — внедрение Metis в широкую эксплуатацию, чтобы продемонстрировать ее преимущества на реальных кейсах и улучшить взаимодействие с пользователями в различных отраслях.