Белый дом и компания Anthropic начали разработку нового стандарта оценки безопасности ИКТ, который поможет определить, когда государственное вмешательство необходимо. Это шаг к созданию регуляторной модели для контроля разработки ИИ-технологий.
Необходимость новых стандартов в ИКТ
Недавний спор между Anthropic и администрацией о блокировке мощных ИИ-моделей — Fable 5 и Mythos 5 — показал отсутствие эффективных инструментов для решения подобных конфликтов. Anthropic отключила свои модели для всех пользователей, ссылаясь на так называемый джейлбрейк, который позволил обойти защиту, однако администрация не согласилась с их оценкой серьезности проблемы.
Принципы нового стандартного фреймворка
На текущий момент в переговорах принимают участие руководитель по связям с органами власти Anthropic Сара Хек и сооснователь Том Браун. Они совместно с представителями администрации разрабатывают предварительные бенчмарки для оценки уязвимости моделей и практических последствий взломов, что позволит установить более ясные критерии для всех участников рынка.
Подобный подход был поддержан на встречах G7, где лидеры ИИ-компаний пришли к выводу, что именно государство должно задавать правила оценки рисков. Стандарты помогут устранить пробелы в регулировании быстро развивающихся технологий.
Выводы для бизнеса и разработчиков ИКТ
Для разработчиков ИКТ в России это означает необходимость следить за изменениями в глобальных стандартах и адаптироваться к новым требованиям. Стандартизация подходов к оценке безопасности моделей поможет избежать блокировок и укрепить доверие к ИИ-технологиям, что особенно важно для стартапов и крупных компаний.