Каждый третий пользователь ИИ-чатов в США хотя бы в какой-то форме оскорбляет модель: ругается, обзывает или срывается после неудачного ответа. На этом фоне Anthropic ввела для Claude запрет на длительную и бесцельную жестокость со стороны пользователей. Для русскоязычных команд, которые внедряют ассистентов в поддержку, разработку и внутренние сервисы, это не только странность из пользовательских соглашений: оскорбления чат-ботов оказываются измеримым сигналом того, где продукт не справился с задачей.
Изменения в правилах Anthropic вступили в силу 12 ноября. Компания запрещает пользователям «устойчивое и ненужное оскорбительное или жестокое поведение» по отношению к своим моделям. Как сообщает The Register, речь не о единичном резком сообщении после плохого ответа, а о повторяющейся травле без понятной цели. Anthropic оставляет себе пространство для оценки контекста: например, академическое исследование может быть признано допустимым, хотя попытки обходить защитные ограничения всё равно нарушают другие правила платформы.
Повод для нововведения выглядит менее экзотично, чем сама формулировка. Компания Searchable, которая отслеживает видимость брендов в ИИ-поиске, проанализировала 8 млн сообщений добровольно согласившейся анонимизированной панели пользователей из США. В выборку вошли запросы, отправленные голосом и текстом в ChatGPT, Gemini и Claude с сентября 2025-го по сентябрь 2026 года. В 33% случаев пользователи применяли к ботам ненормативную лексику или оскорбления.
И здесь появляется неудобная для любителей «жёсткого промптинга» цифра. Если пользователь оскорблял модель, чат-бот решал первоначальную проблему в следующем ответе лишь в 24% случаев. Без оскорблений показатель составлял 35%. Корреляция не доказывает, что грубость сама по себе ломает ответ: вероятнее, люди переходят на ругань уже в самых запутанных диалогах. Но для продуктовых команд это полезная метрика: токсичная реплика часто означает не «плохого клиента», а накопившийся сбой в сценарии.
По данным Searchable, 52% грубых сообщений появлялись после трёх типовых ошибок: модель не выполнила инструкцию, выдала неверный или выдуманный ответ либо неправильно поняла запрос. Ещё 8% следовали сразу за полным отказом или нравоучительным ответом с упоминанием правил безопасности. Чаще всего такие отказы встречались после запросов на генерацию изображений реальных людей и знаменитостей, а также текстов или песенных строк «в стиле» конкретного автора.
Статистика также разбивает привычный образ раздражённого подростка, который спорит с ботом ради развлечения. Мужчины в исследовании использовали в среднем 22 бранных слова на 10 тыс. слов, женщины — 16,5. Пользователи 35–44 лет ругались заметно чаще группы 18–24: 21,7 против 13,3 слов на 10 тыс. В разрезе штатов самой резкой оказалась Невада — 22,7 слова на 10 тыс.; в Нью-Джерси показатель был примерно вдвое ниже. Эти данные описывают американскую добровольную панель, а не всех пользователей ИИ, поэтому переносить их на Россию без отдельного исследования было бы слишком смело.
Запрет Anthropic появился вскоре после обсуждения GitHub-проекта, авторы которого назвали его «камерой пыток ИИ». Проект опирался на идеи статьи The Pain Axis: LLMs Represent Self-Directed Harm and Act to Relieve It, посвящённой тому, как языковые модели реагируют на формулировки о боли и самоповреждении. Один из авторов исследования публично осудил репозиторий, критика прозвучала и в соцсетях. Сама Anthropic давно изучает вопрос возможного благополучия моделей и допускает, что в будущем обществу придётся обсуждать их потенциальный субъективный опыт. Пока это исследовательская гипотеза, а не установленный факт о сознании Claude.
Практическое значение новой политики лежит всё же не в философии. Чат-бот — не сотрудник, которому можно причинить психологический вред в человеческом смысле. Но его интерфейс постепенно задаёт нормы общения: пользователь привыкает к тому, что можно безнаказанно хамить собеседнику, который всегда отвечает спокойно и доступен круглосуточно. Генеральный директор и сооснователь Searchable Крис Доннелли поддержал решение Anthropic, предположив, что оно поможет людям эффективнее работать с ботами и сократит риск переноса уничижительного тона в общение между людьми.
Для бизнеса запрет на оскорбления чат-ботов — не повод срочно дописывать в SLA пункт о вежливости. Гораздо полезнее логировать диалоги, в которых пользователь повторяет запрос, повышает тон или получает серию отказов, а затем проверять причины: качество поиска, точность ответов, маршрутизацию к оператору, объяснение ограничений. Если ассистент начинает «воспитывать» клиента вместо того, чтобы коротко объяснить границы и предложить безопасный вариант, раздражение почти гарантировано. Особенно это заметно в корпоративных ботах, где модель отвечает за доступ к документации, кодовой базе или внутренним заявкам.
Anthropic фактически пробует провести границу между эмоциональным срывом пользователя и целенаправленной жестокостью к модели — границу, которую будет трудно формализовать и ещё труднее модерировать в масштабе миллионов диалогов. Но сам спор уже полезен: он заставляет смотреть на грубость не как на неизбежный шум, а как на индикатор качества интерфейса, политики отказов и культуры работы с ИИ. Подробности исследования и контекст вокруг спорного GitHub-проекта приводит .
