Исследователи из Института права и искусственного интеллекта предложили новый подход к регулированию мощного AI под названием «радикальная опциональность». Эта концепция предполагает, что правительства должны инвестировать в инструменты, которые помогут им адаптироваться в будущем, когда AI начнёт значительно влиять на мир.
Зачем это нужно?
Основная идея радикальной опциональности заключается в том, что демократия должна сохранить возможность принимать обоснованные решения по поводу управления трансформационными AI-системами по мере изменения ситуации. Исследователи утверждают, что правительства должны готовиться к возможным кризисам, тратя средства даже в условиях неопределённости.
Конкретные меры
Исследователи предлагают несколько направлений для реализации радикальной опциональности:
- Власти по сбору информации: Компании должны быть обязаны публиковать эти о своих AI-системах, а также обеспечивать аудит, чтобы третьи лица могли проверять достоверность этой информации.
- Защита информаторов: Необходимо защищать сотрудников, работающих в ведущих лабораториях AI, чтобы они могли сообщать о рисках.
- Гибкие правила: Это могло бы предотвратить преждевременное регулирование, понимая, что требования можно изменять в зависимости от ситуации.
- Оценка технологий: Эффективная оценка возможностей AI-систем для обеспечения их безопасности.
- Инвестиции в таланты: Увеличение финансирования исследовательских институтов для привлечения высококвалифицированных кадров.
Значение для регулирования AI
Для российских компаний и государственных структур подход радикальной опциональности может означать необходимость пересмотра стратегии взаимодействия с AI. Учитывая, что технологии продолжают развиваться такими темпами, государства должны быть готовы адаптироваться, избегая излишней регуляции, которая может замедлить инновации.
Следующий шаг — разработка конкретных законопроектов на основе предложенных направлений, что может занять несколько лет, однако первые инициативы могут появиться в ближайшие 1-2 года.