Национальный университет Сингапура представил MRAgent — новый фреймворк для AI-агентов, который использует всего 118 000 токенов за запрос. Это решение значительно снижает затраты на токены и время выполнения по сравнению с существующими подходами.
Проблемы традиционных систем
Сегодня многие системы использования AI полагаются на классические методы извлечения данных, которые часто не справляются с долгосрочными запросами. Они подбирают документы по векторному поиску или графовому перемещению, но не могут комбинировать память и причинность. Это приводит к трем основным проблемам: отсутствие возможности переработки стратегий извлечения в процессе размышлений, невозможность быстро дополнить запрос новыми данными и перегрузка контекста нерелевантной информацией.
MRAgent: активная память вместо пассивной
MRAgent переходит от статической памяти к активной. Вместо простого извлечения информации, этот фреймворк позволяет AI-агенту динамически формировать память по мере накопления фактов. Он использует механизм, при котором память раскрывается последовательным образом, начиная с небольших триггеров, таких как имена или действия пользователей. Эти триггеры направляют агент на соответствующие категории и помогают собирать данные постепенно, оптимизируя поиск на каждом этапе.
При этом MRAgent применяет систему "Cue-Tag-Content", структурируя информацию в многослойную ассоциативную графовую базу. Это ускоряет процесс извлечения, позволяя AI быстро находить релевантные данные и значительно снижая количество ненужного шума.
Преимущества для разработчиков
Для специалистов в области AI MRAgent открывает новые горизонты. В условиях постоянно меняющегося мира технологий, возможность динамической памяти важна для повышения качества взаимодействия с пользователями. Если ваша компания разрабатывает AI-продукты, внедрение подобной системы может сократить время разработки и повысить пользовательский опыт.
Следующий шаг — распространение этой технологии в коммерческих решениях и ее интеграция в уже существующие AI-системы.