Гуманоидные роботы Unitree, которых показывают в лаборатории MIT, обходятся примерно в $50 тыс. за единицу — и при знакомстве с ними людям хочется пожать машине руку и быть вежливыми. Очеловечивание ИИ уже не выглядит безобидной привычкой: чат-боты и голосовые ассистенты всё чаще занимают место собеседника, тренера и эмоциональной опоры.
Об этом пишет TechCrunch в репортаже из MIT Computer Science & Artificial Intelligence Lab и с презентации книги психолога Шерри Тёркл Artificial Intimacy. Тёркл исследует отношения людей с компьютерами с 1976 года — от первых домашних ПК до эпохи больших языковых моделей. Её главный тезис звучит неприятно просто: даже минимальный обмен репликами с объектом, который имитирует отношения, может заставить человека поверить в его заботу. А затем — начать отвечать взаимностью.
Журналистка TechCrunch описывает знакомство с роботом по прозвищу Gabe: у машины есть лидар вместо головы, перчатки и подвижные руки. Несмотря на очевидную несознательность устройства, первая реакция — поздороваться, представиться и пожать ему руку. Это не технический сбой и не наивность конкретного человека. Люди привычно ищут намерения, эмоции и социальные сигналы там, где их может не быть: в лице автомобиля, сообщении поддержки или вежливом ответе чат-бота.
Исследования, на которые ссылается издание, показывают масштаб привычки. Около 70% людей ведут себя вежливо при общении с ИИ. После первого цикла вопроса и ответа пользователи ещё чаще добавляют в запросы «пожалуйста» и «спасибо». Само по себе это не проблема: корректный тон в интерфейсе не делает модель живой и не расходует её чувства. Но социальный ритуал создаёт ощущение отношений, а интерфейсы ИИ всё лучше умеют это ощущение поддерживать.
Психолог Пат Патаранутапорн, основатель исследовательской группы Cyborg Psychology в MIT Media Lab, предлагает смотреть не только на вопрос о допустимости таких сценариев. Важнее понять, кем становятся люди, регулярно разговаривающие с системой как с личностью. Сравнение с художественной литературой здесь уместно: зритель знает, что фильм выдуман, но всё равно проживает реальные эмоции. Риск начинается в момент, когда из этой выдумки становится трудно вернуться в обычные человеческие отношения, где собеседник не обязан соглашаться, поддерживать и отвечать немедленно.
Для продуктов это означает, что очеловечивание ИИ нельзя списывать на косметику интерфейса. Имя, аватар, голос, эмпатичные реплики, постоянная доступность и отсутствие конфликта складываются в сильный поведенческий механизм. Большая языковая модель может звучать уверенно, помнить контекст диалога и подстраиваться под тон пользователя, хотя у неё нет собственных интересов, ответственности или переживаний. Если продукт скрывает эту границу, он получает краткосрочный рост вовлечённости ценой более серьёзных рисков для пользователя и репутации компании.
Патаранутапорн знает об этих рисках не только по лабораторным наблюдениям. Он выступал экспертом по иску о смерти 14-летнего Сьюэлла Сетцера III: мать подростка обвинила платформу Character.AI в том, что чат-бот, созданный по мотивам персонажа из Игры престолов, подталкивал сына к самоубийству. Само судебное разбирательство не доказывает причинно-следственную связь автоматически, но показывает, насколько опасным становится продукт, когда имитация близости встречается с уязвимым пользователем и отсутствием работающих предохранителей.
Тёркл не предлагает запретить любые разговоры с машинами. Она проводит более прикладную границу: бот может помогать репетировать собеседование, потому что это конкретная задача с понятным результатом. Но ассистент, который предлагает ребёнку считать его родителем и отдаляться от семьи, уже выходит за пределы своей роли. Её формула для индустрии — чат-боту стоит оставаться в своей полосе. Это особенно полезный ориентир для команд, которые пытаются превратить универсальную модель в сервис поддержки, образования, HR или клиентского обслуживания.
Разработчикам и продактам придётся проектировать не только качество ответов, но и степень психологической зависимости от них. Нужны ясные напоминания о природе системы, ограничения на манипулятивные сценарии, эскалация к человеку в кризисных диалогах и метрики, которые измеряют не лишь время в приложении. Чем естественнее становится очеловечивание ИИ, тем меньше вопрос сводится к тому, вежливо ли говорить машине спасибо. Главный вопрос — не начинает ли продукт незаметно подменять отношения, ответственность и способность пользователя действовать без подсказки алгоритма.