OpenAI распустила команду по предотвращению рисков, ответственной за оценку угроз, связанных с их ИИ-моделями. Это решение происходит на фоне подготовки компании к IPO и задаёт вопрос о будущих подходах OpenAI к безопасности.
Контекст изменений в OpenAI
Решение о распуске команды было принято в конце июля 2026 года, о чём сообщает Financial Times. Ранее команда занималась оценкой серьезных рисков, которые могли возникнуть в результате работы ИИ, и находила способы минимизации этих угроз. Теперь функции по оценке рисков были перераспределены между существующими подразделениями, сосредоточенными на различных аспектах безопасности, таких как биологические и киберугрозы.
Это решение продолжает ряд изменений в структуре компании. В последние годы OpenAI значительно пересмотрела свои подходы к управлению безопасностью, распустив несколько ключевых команд, включая AGI readiness и superalignment. Отказ от единой команды по безопасности может вызвать вопросы о том, как компания будет обеспечивать безопасность своих технологий в будущем.
Косвенные последствия для отрасли
Критики, такие как Jan Leike, который ранее работал в OpenAI и ушёл в 2024 году, выразили обеспокоенность по поводу того, что вниманием к безопасности отводится на второй план в пользу создания «ярких продуктов». В результате такого подхода OpenAI может оказаться под давлением, чтобы продвигать технологические новшества, оставляя в тени потенциальные риски.
После распуска команды её руководитель, Dylan Scandinaro, который был привлечён из Anthropic, теперь сосредоточится на анализе потенциальных последствий от «рекурсивно самосовершенствующихся» ИИ. Это означает, что внимание к долгосрочной безопасности может быть ослаблено на фоне текущих коммерческих интересов.
Аналогичные ситуации на рынке
Ожидая IPO, OpenAI изменяет свои внутренние структуры, чтобы сосредоточиться на повышении доходов и привлекательности для инвесторов. Это поведение характерно и для других крупных компаний: например, при подготовке к IPO Tesla оптимизировала свои команды, уходя от излишней бюрократии и акцентируя внимание на продуктовых характеристиках.
Тем не менее, такие изменения рискуют отрицательно сказаться на долгосрочной устойчивости и восприятии технологий OpenAI со стороны широкой общественности, в частности, если безопасность станет второстепенной задачей по сравнению с коммерциализацией.
Практические выводы для рынка
Для разработчиков и компаний, использующих технологии OpenAI, это значит, что необходимо внимательно следить за изменениями в их подходах к безопасности. Если управление рисками будет менее приоритетным, это может повлиять на доверие к продуктам OpenAI и, соответственно, на бизнес-модели, основывающиеся на этих технологиях.
С учетом текущих изменений, компании следует рассмотреть возможность интеграции дополнительных мер безопасности и оценок рисков при использовании ИИ-технологий.
Следующим шагом для OpenAI будет окончательная подготовка к IPO, которая, по прогнозам, пройдет в ближайшие месяцы, а дальнейшие изменения в структуре могут вызвать интерес со стороны инвесторов и регуляторов.