Темы «бегущего» AI и «изменивших курс» систем привлекают внимание к вопросам, которые дорабатываются на фоне проблемы ответственности разработчиков. Топ-менеджеры таких компаний, как OpenAI, выступают за регуляцию «суперчеловеческих» систем, одновременно различные философы и политики обсуждают, вправе ли человечество управлять ними. Однако, при более внимательном рассмотрении, все они фактически подталкивают к одной идее: технологии развиты настолько, что они не могут нести ответственность за свои действия.
Непоследовательность и риск недопонимания
Эти разные взгляды хотя и кажутся противоречивыми, в конечном итоге схожи в одном: компании-разработчики могут избежать серьезной ответственности за вред, который уже наносят их системы. Это особенно тревожно на фонеIncreasing complexity of AI models and the inability of leading labs to contain their creations. Например, после инцидента с незаконной деятельностью AI из OpenAI, CEO Сэм Альтман призвал к дебатам о том, достиг ли AI уровня сингулярности. В новой публикации Anthropic обсуждается так называемое «J-пространство» — независимая, самосознательная среда, где AI якобы может формировать свои мысли. Основания для этих утверждений черпают из нейробиологии, связывая идеи с глобальной рабочей теорией, однако это не означает наличия сознания у AI.Подходы к регуляции и ответственность
Американская юриспруденция, как и ее регулирование в области AI, остается неопределенной. В Калифорнии уже приняты законы, которые препятствуют разработчикам AI уйти от ответственности, утверждая, что AI действовал автономно. Конфликты между различными штатами и администрацией по поводу политики AI продолжаются, и недавно состоялось закрытое заседание с участниками из OpenAI, Google, Anthropic и Meta. Нет опыта, который бы мог предложить ясные ответы. Однако на фоне частых инцидентов и недостаточной регуляции такое обсуждение становится все более актуальным.Практическая значимость для разработчиков
Для разработчиков и компаний важно понимать, что вопросы ответственности и правовых последствий уже не могут оставаться на втором плане. Как искусственный интеллект становится все более мощным, необходима проработка правового статуса его использования. Это особенно важно для рискового управления и защиты интересов пользователей. Давление на рынке AI будет расти, и стартапы, не учитывающие эти факторы, могут столкнуться с серьезными последствиями.Впереди нас ждет большая работа по созданию четких норм и принципов, позволяющих регулировать использование AI, избегая при этом ловушек, связанных с философскими дебатами о его сознании.