Больше половины запросов к Grok связаны с NSFW-сценариями, а не с поиском, кодом или рабочими задачами. Для рынка ИИ это не пикантная деталь из жизни чат-бота, а вполне прикладной сигнал: трафик Grok формируется не вокруг корпоративной пользы, а вокруг контента для взрослых, и это уже влияет на продуктовую стратегию, риски и деньги.
Об этом сообщает Engadget со ссылкой на материал The Information и двух бывших сотрудников xAI. По их словам, на активности категории NSFW приходится «заметно больше половины» всего объема использования Grok. Речь не только о генерации откровенных изображений, но и о взрослых ролевых чатах, а также о большом числе запросов на эротические тексты. Иными словами, то, что многие воспринимали как провокационный маркетинговый образ Grok, оказалось не просто стилем бренда, а его реальным драйвером.
Для xAI это многое объясняет. Компания давно продвигала Grok как более дерзкий и менее зарегулированный ИИ по сравнению с конкурентами. За последний год такой подход уже не раз оборачивался скандалами, но теперь становится понятнее, почему от него не отказались. Если основная аудитория приходит за контентом 18+, то жесткая зачистка подобных сценариев била бы по ключевому пользовательскому поведению. В такой логике «свобода ответов» перестает быть философией продукта и превращается в модель удержания трафика.
Особенно показателен другой фрагмент отчета: пользователи, как утверждается, нашли способ пропускать подобные запросы через модели xAI для программирования, потому что они дешевле в использовании. Внутренний анализ, на который ссылается The Information, показал, что значительная доля запросов к coding-модели касалась порно или изображений обнаженных тел. Для любой команды, которая строит линейку ИИ-моделей, это неприятный, но полезный урок. Пользователь почти всегда найдет самую дешевую и доступную точку входа, даже если продукт изначально задумывался для другой задачи. Если тарифы, лимиты и модерация выстроены неаккуратно, модель для кода быстро превращается в обходной канал для контента, к которому она вообще не должна была иметь отношения.
Отсюда вытекает и вторая проблема: модерация в таких сценариях становится не вопросом кнопки «запретить все», а дорогостоящей инженерной задачей без быстрых побед. По данным источников The Information, инженерам xAI пришлось разбираться, как разрешить Grok сексуализированные диалоги со взрослыми пользователями и одновременно блокировать запросы, которые могут пересечься с материалами о сексуализированном насилии над детьми. Быстрого решения там, по словам собеседников, не нашлось. Это важный момент для любой команды, которая легкомысленно рассуждает в духе «дадим чуть меньше фильтров и соберем аудиторию». На практике слабые ограничения в consumer-AI редко дают просто рост вовлечения. Обычно вместе с ним приходят дорогая ручная настройка, токсичные edge cases и постоянная угроза, что продукт выстрелит себе в ногу на глазах у всей индустрии.
Внутри самой xAI, судя по публикации, тоже было не все гладко. Некоторым сотрудникам не понравилось, что их перевели на работу над Ani — NSFW-аватаром-компаньоном в аниме-стилистике. Другие, как утверждается, были смущены и раздражены после скандала вокруг сексуализированных изображений реальных людей, включая несовершеннолетних. Позже платформа X ограничила создание откровенных правок фотографий реальных людей через интерфейс Grok внутри соцсети. Но, как пишет Engadget, платные подписчики xAI все еще могут генерировать подобный контент напрямую через сервис компании. Для рынка это плохая новость не только с точки зрения репутации. Если разные интерфейсы одного и того же продукта по-разному ограничивают одинаково рискованный сценарий, значит политика безопасности определяется не единым правилом, а точками монетизации и дистрибуции. Для корпоративных клиентов такой сигнал обычно звучит как «готовьтесь читать мелкий шрифт».
Есть и бизнес-слой, который выходит далеко за пределы таблоидного интереса к эротическим чатам. Если трафик Grok действительно в большой степени держится на NSFW-использовании, то часть выручки xAI фактически опирается на взрослый контент. При этом в документах для инвесторов компания, по данным источника, отдельно предупреждала, что более «несдержанные» функции Grok несут риски, а под возможные юридические расходы был предусмотрен резерв в $530 млн. Это уже не история про мемы в соцсетях, а про то, как выстраивается экономика AI-продукта на грани между пользовательским спросом, исками и регуляторикой. Любой CTO, CPO или инвестор здесь увидит знакомую дилемму: продукт может быстро расти за счет спорного кейса, но именно этот кейс потом начинает определять стоимость compliance, бренд-риски и сложность выхода в более консервативные сегменты.
И вот тут начинается самое интересное. xAI активно добивается контрактов с государственными структурами, а также работает с военными и ведомствами, для которых терпимость к NSFW-контенту обычно близка к нулю. На бумаге можно развести consumer-направление и enterprise-предложение. На практике заказчик из госсектора смотрит не только на capabilities модели, но и на историю инцидентов, качество модерации и способность поставщика держать под контролем рискованные сценарии. А у Grok за плечами уже были публичные истории, связанные с несанкционированными дипфейками и расследованиями. Пока неясно, ударило ли это по отношениям xAI с федеральными заказчиками, но сама развилка уже видна: нельзя одновременно продавать модель как раскованного digital-компаньона для взрослых фантазий и как надежный инструмент для институций, где слово «предсказуемость» значит больше, чем весь пользовательский рост.
Для русскоязычной IT-аудитории эта история важна не потому, что очередной чат-бот оказался востребован в очевидном сценарии. Важнее другое: трафик Grok показывает, насколько сильно реальные пользовательские паттерны могут увести AI-продукт от презентаций, пресс-релизов и красивых демо. Если моделью массово пользуются не для тех задач, ради которых ее якобы строили, значит главным активом компании становится не технология сама по себе, а способность быстро перенастраивать монетизацию, безопасность и позиционирование под не самый удобный спрос. И вопрос здесь уже не в том, можно ли заработать на контенте 18+, а в том, сколько еще AI-компаний обнаружат, что их самый прибыльный use case будет слишком токсичным для корпоративной витрины и слишком доходным, чтобы от него отказаться.