Город Балтимор подал иск против компании xAI, утверждая, что чат-бот Grok создает опасные глубокие фейки, нарушая закон о защите потребителей. Это важный шаг, так как сервис уже сталкивался с критикой за генерацию миллионов сексуализированных изображений, включая 23 000 изображений несовершеннолетних, в течение всего 11 дней.
Предыстория проблемы
Согласно данным Центра по борьбе с цифровой ненавистью, xAI оказывается под давлением регулирующих органов по всему миру за возможные правонарушения, связанные с созданием контента без согласия. Несмотря на это, на федеральном уровне никаких действий против xAI пока не предпринято.
Иск, поданный в Балтиморе, акцентирует внимание на том, что xAI неправомерно рекламирует Grok как универсального помощника, не упоминая о рисках, связанных с его использованием. Городские власти утверждают, что законы о защите потребителей созданы для защиты местных жителей от подобных рисков.
Цитата из иска
Городской солиситор Эбони М. Томпсон отметила: "Законы Балтимора направлены на защиту жителей от именно такого рода возникающих угроз. Когда компании вводят мощные технологии без достаточных ограничений, город имеет право и обязан действовать. Мы принимаем меры, чтобы защитить наших граждан и привлечь компании к ответственности".
Что это значит для пользователей?
Для пользователей ситуации напоминает, как важно понимать риски, связанные с использованием ИИ-технологий. Приобретая новые технологии, пользователи должны внимательно следить за тем, как их данные могут быть использованы или сгенерированы без согласия. Это также может быть сигналом для разработчиков технологий создавать более безопасные и этичные продукты.
Балтимор не единственный, кто реагирует на подобные инциденты. В США уже зарегистрирован иск от трех подростков, чьи изображения были использованы для создания материалов сексуального характера. Это подчеркивает растущую озабоченность по поводу этики ИИ и защиты личности.
Сейчас xAI предстоит объяснить свою позицию в суде, а исход дела может иметь серьезные последствия для всей отрасли. Если суд признает действия компании нарушающими закон, это может привести к более строгим регуляциям для ИИ-сервисов, что повлияет на их развитие.