Microsoft предложила новые функции для усиления контроля и безопасности AI-агентов. Это важно, поскольку с ростом агентного ИИ появляются серьезные угрозы для организаций и пользователей.
Почему новые меры необходимы
Согласно отчёту по кибербезопасности, число атак с использованием AI возросло на 50% за последний год. Ситуация усугубляется тем, что многие компании недостаточно защищены от рисков, связанных с AI. Теперь Microsoft вводит улучшенные инструменты управления, которые предоставляют пользователям больше контроля над поведением AI-агентов.
Ключевые аспекты новых функций
В новых предложенных мерах Microsoft акцентирует внимание на идентификации пользователей и установлении контрольных точек для AI-агентов. Например, теперь возможно задать конкретные параметры, в которых AI может взаимодействовать с данными, что снижает риск утечек информации. Такой подход уже внедряли в международных компаниях, где использование AI стало повседневной практикой.
Прогнозы аналитиков ожидают, что киберугрозы, связанные с AI, продолжат расти, что делает новые инструменты Microsoft особенно актуальными для повышения безопасности организаций.
Значение для российских компаний
Для российских разработчиков и компаний, использующих AI-технологии, внедрение подобных мер безопасности становится критически важным. Учитывая, что более 30% кибератак в стране связаны с уязвимостями в AI-системах, внимание к вопросам безопасности должно вырасти. Инвестирование в новые контролирующие механизмы может помочь предотвратить потенциальные угрозы и защитить эти пользователей.
Следующие шаги Microsoft станут ясными в Q4 2023, когда компания будет делиться результатами первых реализаций новых функций на практике.