Alibaba разработал новый AI-фреймворк SkillWeaver, который уменьшает расход токенов на 99%, что особенно важно для пользователей с комплексными рабочими процессами. Это позволяет значительно повысить эффективность работы AI-агентов, не перегружая их инструментами.
Проблема маршрутизации задач в AI
Современные AI-системы сталкиваются с проблемами в маршрутизации подзадач к необходимым инструментам. Обычно агенты могут иметь доступ к сотням различных инструментов, что затрудняет выбор нужного для каждой конкретной подзадачи. SkillWeaver решает эту проблему, создавая граф выполнения для каждой задачи и оптимально выбирая навыки для каждого этапа процесса.Alibaba также представил метод Skill-Aware Decomposition (SAD), который использует обратную связь для итеративного поиска и отбора наиболее подходящих инструментов. Это отличает SkillWeaver от других фреймворков, которые обычно выбирают инструменты в один этап.
Эффективность SkillWeaver в реальных приложениях
В ходе экспериментов было установлено, что использование SkillWeaver и его подхода к маршрутированию инструментов позволяет повысить точность выполнения задач за счёт сокращения ненужного расхода токенов. Этот подход показывает, что со стабильными результатами можно обрабатывать запросы, подобные «скачать набор данных, изменить его и создать визуальные отчеты», без риска превышения лимитов контекста.На практике, фреймворк проходит три ключевых этапа: разбиение задачи, извлечение подходящих инструментов и компоновка полученных данных в исполняемый план. Например, для выполнения запроса на скачивание данных, обработку и визуализацию, SkillWeaver эффективно делит его на составные части, что позволяет более эффективно использовать доступные инструменты.
Польза для бизнеса
Для разработчиков AI и предприятий использование SkillWeaver может стать ключевым моментом. Уменьшение расхода токенов на 99% открывает новые горизонты в эффективности обработки запросов и снижает затраты на API-вызовы и вычислительные ресурсы. Это особенно актуально для компаний, работающих с большими объёмами данных или сложными бизнес-процессами, где точность и скорость выполнения задач играют решающую роль.Следующий шаг для Alibaba — дальнейшее улучшение SkillWeaver, чтобы сделать его ещё более универсальным для различных сценариев использования в AI.