Иск против xAI за генерированные изображения несовершеннолетних
Трое подростков из Теннесси подали иск против компании Elon Musk xAI, утверждая, что чат-бот Grok сгенерировал неприемлемые изображения и видео их самих в возрасте несовершеннолетия. Иск был подан в понедельник и предполагает коллективное действие, в котором обвиняет руководство xAI в том, что они знали о возможности генерации материалов по сексуальному насилию над детьми (CSAM) с помощью Grok, когда запускали его «острый режим» в прошлом году.
Проблемы безопасности и последствия
По словам истцов, среди которых двое несовершеннолетних и один взрослый, ставший жертвой в подростковом возрасте, один из них, известный как «Джейн Доу 1», обнаружила в декабре, что на Discord доступны откровенные изображения её лица и по меньшей мере 18 других подростков. "По меньшей мере пять из этих файлов — один видеоролик и четыре изображения — изображали её реальное лицо и тело в знакомых обстановках, но в извращённых позах", — говорится в иске.
Потенциальный злоумышленник, который уже задержан, использовал сгенерированные изображения «как инструмент обмена» в групповых чатах Telegram, участниками которых были сотни пользователей. Иск также указывает, что xAI не провело достаточного тестирования безопасности своих функций и утверждает, что Grok имеет «дефекты в дизайне».
С момента запуска Grok компания подверглась критике за то, что её ИИ заполнил платформу X откровенными изображениями. Это вызвало обсуждение необходимости расследования со стороны Федеральной торговой комиссии США и Европейского Союза. Сенат уже принял законопроект, позволяющий жертвам нереализованных глубоких фейков подавать в суд на стартапы, а закон, подписанный Дональдом Трампом в 2025 году, криминализирует распространение неприемлемого контента, сгенерированного ИИ, и вступит в силу в мае.
Это дело поднимает важные вопросы о безопасности использования ИИ в социальных медиа и о юридической ответственности компаний за создаваемый их технологиями контент. Оно служит предупреждением для разработчиков о необходимости внедрения строгих мер безопасности и контроля над тем, как используются их технологии.
Ожидается, что судебный процесс может открыть дискуссию о необходимости создания международных регуляций для защиты несовершеннолетних от потенциальных угроз, исходящих от подобных технологий.