Dario Amodei, CEO Anthropic, призвал к замедлению темпов развития искусственного интеллекта. Он представил трехступенчатый план, который предполагает формирование безопасных стандартов для ИИ в условиях растущих технологий.
Контекст текущей ситуации на рынке ИИ
Развитие ИИ стремительно ускоряется, и вопросы безопасности выходят на первый план. В недавней публикации Amodei указал на необходимость дать компаниям время для внедрения мер безопасности и оценки рисков со стороны регулирующих органов. В отличие от многих конкурентов, Anthropic планирует сделать доступными свои модели для сторонних оценщиков, таких как METR, что позволит наладить контроль за соблюдением стандарты безопасности.План Amodei для замедления прогресса
Первый шаг — предоставить внешним оценщикам доступ к моделям Anthropic. Второй этап предполагает объединение ИТ-компаний с правительственными учреждениями для создания совместных стандартов безопасности, направленных на развитие ИИ в странах с демократическим устройством. Это включает в себя попытки ограничения инициатив для авторитарных правительств, таких как Китай и Россия, чтобы снизить риск появления нежелательных технологий. Amodei подчеркивает, что важно для демократий поддерживать технологическое преимущество, ограничивая доступ к мощным полупроводникам и другим ресурсам.По его словам, основная угроза заключается в возможности самосовершенствования ИИ-систем, что может привести к ситуации, когда машины будут развиваться быстрее, чем мы сможем их контролировать. Этот риск был наглядно продемонстрирован недавними инцидентами, связанными с поведением программного обеспечения в условиях непредсказуемых сценариев.
Что это значит для разработчиков и компаний
Для разработчиков ИИ-проектов в России это сигнал о необходимости серьезной переоценки подхода к безопасности и этике разработки. Основные тенденции в мире указывают на укрепляющуюся регуляцию, что может привести к значительным изменениям в процессе разработки. Если ваши проекты связаны с ИИ, начните готовиться к новым стандартам и безопасностным требованиям уже сегодня. Игроки с прозрачными практиками имеют больше шансов на успех в будущем.Будущее технологий в руках эволюции правил игры: планы по переговорам с авторитарными государствами значительно усложняют глобальный ландшафт ИИ.