Caitlin Kalinowski, руководитель отдела робототехники OpenAI, покинула компанию из-за её спорного соглашения с Министерством обороны США. "Это было непростое решение", — написала она в своём блоге. "Искусственный интеллект играет важную роль в национальной безопасности. Но слежка за американцами без судебного контроля и автономное применение смертоносного оружия — это вещи, которые требовали большего рассмотрения, чем они получили".
Контекст сделки с Пентагоном
Сделка OpenAI с Пентагоном была объявлена всего неделю назад после срыва переговоров между министерством и компанией Anthropic. Последняя пыталась добиться гарантии, запрещающей использование её технологий для массовой слежки и автономных вооружений. OpenAI же быстро заключила своё соглашение, позволяющее использовать её разработки в закрытых средах, при этом упомянув о соблюдении критически важной этики и безопасности.
После объявления сделки Kalinowski подчеркнула, что это был вопрос принципа, а не персональных отношений, выражая высокую оценку CEO OpenAI Сэму Олтману и команде. Тем не менее, ее уход вскоре повлиял на репутацию компании: количество пользователей ChatGPT снизилось на 295%, в то время как приложение Claude от конкурента Anthropic обошло ChatGPT в магазинах приложений.
Последствия для OpenAI и рынка
Соглашение с Пентагоном вызвало недовольство как среди потребителей, так и среди сотрудников OpenAI, что, вероятно, приведёт к дальнейшим последствиям для компании. В условиях повышенной конкуренции в области AI, репутационные риски могут негативно сказаться на её рыночных позициях. Учитывая, что использование AI в государственном секторе требует высокой степени доверия и прозрачности, OpenAI может столкнуться с серией связанных обвинений и протестов.
И что мне с этого?
Для русскоязычных разработчиков и стартапов ситуация с OpenAI подчеркивает важность этических вопросов в технологиях. В условиях глобализации технологий, связанные с безопасностью и правами человека аспекты могут играть ключевую роль в формировании общественного мненияи привлечении инвестиций к проектам. Будущие предприятия могут рассмотреть эти вопросы в стратегии своего роста.
Сейчас OpenAI находится в процессе обсуждений с работниками и федеральными органами. Искусственный интеллект имеет потенциал значительно изменить многие сферы, но важность их применения с учётом этических норм и общественного блага становится всё более актуальной.
