Пользователи Amazon нашли в настройках аккаунтов характеристики вроде «нет друзей», «плоская попа» и «не склонен легко доверять людям». Теги Amazon формируются по истории покупок и используются для персонализации рекомендаций, сообщает vc.ru. Для IT-команд это не просто повод посмеяться над неудачной классификацией: покупательские данные всё чаще превращаются в психологический портрет, который пользователь видит лишь случайно.
История разошлась после публикации пользовательницы Threads, обнаружившей у себя характеристику, которую можно перевести как «плоская попа». Она предположила, что алгоритм сделал вывод после покупки леггинсов. Вслед за ней другие пользователи начали проверять свои профили и выкладывать результаты: у кого-то система решила, что он не умеет ухаживать за растениями, у кого-то — что относится к кошкам как к биологическим детям. Встречался и особенно неловкий тег о том, что человеку нравится, когда игрушки застревают под потолком в классе.
Amazon не скрывает сам принцип: такие метки нужны, чтобы точнее подбирать товары. Но конкретные формулировки показывают, где заканчивается обычная товарная сегментация и начинается интерпретация привычек. Купить несколько товаров для кошки — понятный сигнал для рекомендаций корма или переноски. Сделать из этого вывод о характере отношений владельца с животным — уже совсем другой уровень смелости модели.
Часть найденных описаний выглядит вполне безобидно и, по словам журналистов, попадает в цель. Автор The Verge увидел у себя теги о частом употреблении кофе и постоянной игре в видеоигры. Журналист TechCrunch обнаружил характеристики «занимаюсь фотографией» и «играю в коллекционные карточные игры» — и подтвердил, что они соответствуют действительности. Именно эта смесь точных и странных оценок делает механизм заметным: алгоритм способен угадать интерес, но пользователь запоминает прежде всего ошибку, которая звучит как личное суждение.
Для продуктовых команд здесь знакомая дилемма. Персонализация работает лучше, когда модель получает больше сигналов и объединяет их в сегменты. Однако интерфейс, который показывает человеку готовый ярлык без объяснения, откуда он взялся и как на что-то влияет, быстро превращает полезную рекомендацию в репутационный риск. Особенно если тег описывает не потребность — например, интерес к фототехнике, — а предполагаемые социальные навыки, внешность или особенности личности.
Разработчикам рекомендательных систем полезно разделять внутренние технические признаки и пользовательские описания. Признак «покупал товары категории X» проще проверить, оспорить и удалить. Формулировка «нет друзей» выглядит как вывод, который нельзя надёжно восстановить по корзине заказов. Если бизнес всё же открывает такие данные в настройках, ему нужны понятные элементы управления: возможность посмотреть источник сигнала, отключить его использование и исправить неверную характеристику.
У Amazon эта история стала наглядной демонстрацией того, что теги Amazon — не нейтральная служебная разметка, а часть пользовательского опыта. Чем точнее маркетплейсы пытаются предсказывать предпочтения, тем чаще им придётся отвечать на неудобный вопрос: достаточно ли покупки леггинсов, чтобы алгоритм начал рассуждать о человеке, а не о товаре?