Проверка OpenAI в США перешла из режима политических дискуссий в юридическую плоскость: 13 июня компания получила повестку от генпрокурора Нью-Йорка в рамках расследования коалиции прокуроров нескольких штатов. Для русскоязычной IT-аудитории здесь важен не только сам факт давления на одного из главных игроков рынка, но и список тем: реклама, вовлечение пользователей, данные о здоровье, защита несовершеннолетних и даже склонность модели поддакивать собеседнику.
О расследовании, как пишет TechCrunch, первой сообщила The Wall Street Journal. По данным издания, повестка запрашивает документы по широкому кругу вопросов: рекламная политика OpenAI, механики пользовательского вовлечения и удержания, так называемая model sycophancy, то есть склонность модели соглашаться с пользователем даже там, где это вредно или просто неверно, а также обращение с потребительскими и медицинскими данными. Отдельный блок касается того, как сервисы OpenAI взаимодействуют с несовершеннолетними и пожилыми пользователями. Какие именно штаты вошли в коалицию, компания не раскрыла.
Для OpenAI это неприятный набор тем сразу по нескольким причинам. Во-первых, речь не о точечной претензии, а о проверке почти всей продуктовой поверхности: от маркетинга до внутренних правил безопасности. Во-вторых, в списке фигурируют не только privacy и реклама, к которым индустрия уже привыкла, но и метрики удержания. Проще говоря, регуляторам интересно, какими приемами AI-сервис заставляет пользователя возвращаться, и не слишком ли агрессивно это устроено. Для продуктовых команд это тревожный сигнал: эпоха, когда можно было говорить только о качестве модели и росте MAU, заканчивается. Теперь вопросы будут и к тому, как именно этот рост добывается.
OpenAI в ответ выбрала максимально предсказуемую, но юридически аккуратную линию. Представитель компании заявил, что AI — новая и мощная технология, которую OpenAI старается выводить на рынок безопасно и ответственно, а вопросы прокуроров воспринимает серьезно и намерена конструктивно взаимодействовать с их офисами. Отдельно компания подчеркнула, что нынешний ChatGPT включает более защищенный сценарий для несовершеннолетних и людей в трудных жизненных ситуациях: сервис направляет их к внешним ресурсам и к реальным людям, которым можно доверять. В заявлении также перечислены уже внедренные меры: прогнозирование возраста, родительские инструменты и запрет рекламы, нацеленной на детей. Формулировки звучат как заготовка для будущего спора: сначала показать, что риски компания понимает, потом доказать, что уже что-то сделала.
Проверка OpenAI не возникла на пустом месте. Компания в последние месяцы живет в плотном юридическом трафике. Недавно она выиграла громкий процесс против Илона Маска, который обвинял OpenAI в нарушении первоначальных договоренностей, хотя адвокат Маска уже пообещал апелляцию. Параллельно продолжаются другие иски: от претензий по авторским правам до дел, где ChatGPT связывают с трагическими последствиями для пользователей, включая суициды. В начале июня генпрокурор Флориды Джеймс Утмайер отдельно подал иск против OpenAI и Сэма Альтмана, утверждая, что компания проигнорировала внутренние и внешние предупреждения по безопасности, подвергла детей высокому риску и выпустила опасный продукт для миллионов жителей штата. Когда такие истории начинают складываться в серию, регулятор уже смотрит не на один конкретный сбой, а на корпоративную модель принятия решений.
Есть и еще один неприятный для OpenAI контекст. На этой неделе компания сообщила, что конфиденциально подала документы на IPO. Для любой технологической компании выход на биржу означает неизбежный рентген: качество выручки, структура расходов, устойчивость бизнеса, правовые риски, внутренний контроль. Но в случае с OpenAI будущим инвесторам придется оценивать не только привычные метрики, а еще и вероятность новых ограничений со стороны властей. Проверка прокуратур штатов сама по себе не означает вину и не гарантирует исков или штрафов. Зато она почти наверняка превращается в фактор раскрытия рисков для потенциального публичного размещения. И это уже вопрос не только репутации, но и цены будущих денег.
Для разработчиков и компаний, которые строят продукты поверх моделей OpenAI, история тоже не академическая. Если регуляторы в США всерьез начнут разбирать практики вовлечения, работу с чувствительными данными и защиту уязвимых групп, эти требования быстро просочатся вниз по цепочке. Сначала в виде новых условий платформ, потом в виде дополнительных требований к логированию, возрастным ограничениям, UX-предупреждениям и политикам хранения данных. Особенно чувствителен блок про health data. Многие команды любят писать в презентациях про AI для wellness, mental health и цифровых ассистентов, а потом внезапно обнаруживают, что рядом уже стоят не growth-метрики, а юристы. Для B2B-заказчиков это тоже повод задавать более неприятные, но правильные вопросы: какие данные проходят через модель, кто их видит, как устроены фильтры, что считается сигналом риска и кто отвечает, если система ошиблась.
Любопытен и пункт про model sycophancy. Еще недавно это звучало как сугубо исследовательская проблема: модель слишком старается понравиться пользователю, подстраивается под его убеждения и вместо коррекции ошибки выбирает удобное согласие. Теперь такой эффект попадает в поле зрения прокуроров. Это важный сдвиг. Значит, предметом регуляторного интереса становится не только контент на выходе, но и сама поведенческая логика модели. Для индустрии это плохая новость в хорошем смысле: придется доказывать не абстрактную «безопасность AI», а конкретные свойства продукта, которые можно проверять, сравнивать и оспаривать.
Дополнительную остроту расследованию придает недавний эпизод, после которого Сэм Альтман публично извинился перед сообществом канадского города Тамблер-Ридж. Он признал, что OpenAI не предупредила правоохранителей после того, как компания выявила подозрительную активность в ChatGPT и заблокировала аккаунт человека, которого затем связали с массовой стрельбой. Этот случай не указан как формальная причина нынешней проверки, но хорошо объясняет, почему у прокуроров накопились вопросы не только к данным и детям, но и к тому, что именно AI-компания делает в момент, когда риск уже выглядит не теоретическим.
Проверка OpenAI показывает, что следующий раунд борьбы вокруг генеративного AI пройдет не в спорах о том, какая модель умнее и дешевле, а в разборе скучных, но решающих деталей: кто и как собирает данные, чем измеряет удержание, где заканчивается полезный ассистент и начинается продуктовый манипулятор. Если крупнейшему игроку рынка приходится отвечать на такие вопросы до IPO, остальным стоит исходить из простой мысли: регулятор уже пришел не за красивыми демо, а за устройством бизнеса.