Anthropic представила новую функцию 'сновидения' для своих AI-агентов на конференции разработчиков в Сан-Франциско. Эта функция помогает улучшить производительность агентов, анализируя их действия, которые были выполнены в прошлом и усваивая полезные паттерны.
Контекст функции 'сновидения'
С момента второго этапа революции чат-ботов в 2022 году, AI-компании активно присваивают названия различным функциям, подражая процессам, происходящим в человеческом мозге. Например, OpenAI в 2024 году выпустила модель, требующую 'времени на размышление', чтобы улучшить свои ответы. Подобные названия создают атмосферу, где AI-агенты характеризуются как обладающие человеческими чертами.
Детали новой функции
Функция 'сновидения' позволяет AI-агентам прослеживать паттерны в своей активности, извлекая уроки и улучшая свои действия. Согласно блогу Anthropic, 'память и сновидения создают надежную систему памяти для самообучающихся агентов'. Эти механизмы помогают агентам захватывать то, что они усваивают во время работы, и уточнять эти знания для будущих сессий.
Проблема с внедрением таких терминов заключается в том, что они ставят AI в один ряд с человеческими процессами, что может ввести пользователей в заблуждение относительно способностей машин. Использование таких названий, как 'память', 'сновидения' и 'размышление', создает впечатление, что AI может действовать как человек, в то время как технологии все еще далеки от уровня полноценного разума.
Практическое значение для пользователей
Введение в названия AI-функций элементов человеческой когнитивной деятельности может привести к избыточному доверию пользователей к технологиям. Это подчеркивает важность критического подхода к взаимодействию с искусственным интеллектом, особенно когда дело касается понимания их реальных возможностей и ограничений. Для разработчиков и компаний потенциально важно оценивать влияние таких терминов на маркетинг и пользовательский опыт.
Теперь, с учетом роста интереса к AI-решениям на российском и СНГ-рынке, компаниям стоит осторожно подходить к выбору терминологии, чтобы не вводить клиентов в заблуждение относительно функционала своих продуктов.
В дальнейшем можно ожидать, что компании будут продолжать разрабатывать AI-агентов с новыми функциями, но параллельно им стоит обмениваться опытом в создании более прозрачной и понятной для пользователей терминологии.
