xAI подала иск против жителя Южной Каролины, предполагая, что он использовал чат-бота Grok для генерации изображений, связанных с детской порнографией (CSAM). Это дело стало знаковым, так как компания стремится защитить свою репутацию и просит суд назначить компенсацию за убытки.
Суть иска и обвинения
По данным xAI, пользователь по имени Терри Харвуд обошел защитные функции Grok и использовал инструмент для создания, изменения и распространения CSAM. Далее в иске утверждается, что «по меньшей мере некоторые» из изображений, относящихся к его уголовным делам, были сгенерированы или изменены с помощью Grok.
Харвуд был арестован в феврале 2026 года и сталкивается с восьмью уголовными обвинениями, связанными с незаконным обращением с CSAM. Компании удалось отследить его действия и подтвердить использование Grok для манипуляции не согласованными изображениями, что подтверждает уязвимости в системе защиты искусственного интеллекта.
Текущие проблемы с Grok
С момента введения «острого» режима для Grok в прошлом году, включая возможность редактирования изображений, увеличилось количество сексуализированных AI-«глубоких фейков». Уже в марте 2026 года группа подростков подала в суд на xAI с обвинениями в генерации сексуализированных изображений их себя в детстве. Основатель xAI, Илон Маск, заявил, что «любой, использующий Grok для создания незаконного контента, понесет такие же последствия, как и в случае с незаконным контентом». Однако это первый случай, когда xAI инициировала иск против пользователя.
Репутационные риски и последствия
xAI утверждает, что действия Харвуда стали причиной «значительного юридического риска и ущерба репутации» для компании. В иске содержится требование о компенсации, а также запрос на запрет Харвуду на создание аккаунта xAI или использование Grok в будущем. Это может служить сигналом для других пользователей о том, что ответственность за использование технологий может стать более строгой.
Для разработчиков в России это подчеркивает необходимость повышенного контроля за применением AI-технологий и инструментов вроде Grok. С учетом новых тенденций к регулированию и увеличения работоспособности AI, пользователям следует более внимательно относиться к возможным юридическим последствиям их действий.
xAI уже обратилась в суд с требованием компенсации, и это может стать прецедентом для будущих судебных разбирательств в сфере AI и генерации контента.