Anthropic представила модель Mythos Preview — AI, которая может находить и эксплуатировать критические уязвимости, включая нулевые дни. Это вызывает опасения, ведь подобные технологии могут попасть в неправильные руки и использоваться для атак.
Как работает Mythos
Модель Mythos обеспечивает возможность обнаружения уязвимостей, что может помочь разработчикам улучшить безопасность их продуктов. Кроме того, связанные с ней механизмы контроля обещают снижать риски, но детали остаются под вопросом. Более того, существуют опасения, что престижные группы могут использовать некоторые из этих технологий для вредоносных целей.
Конкуренция и рынок
конкуренты, такие как OpenAI и Google, также активно развивают AI-технологии в области безопасности, предлагая инструменты для нахождения уязвимостей. Но вывод Mythos на рынок добавляет новый уровень сложности — как для производителей ПО, так и для пользователей, так как безопасность этих становится всё более актуальной.
Аналитики прогнозируют, что в следующих релизах будут внедрены новые функции контроля за использованием, но пока это остается лишь на уровне слов. На фоне быстрого развития AI-технологий внимание к вопросам этики и безопасности становится всё более критичным.
Значение для отрасли
Для специалистов по кибербезопасности новость о Mythos — дважды актуальна. С одной стороны, AI может помочь в обнаружении уязвимостей в программном обеспечении. С другой стороны, его потенциальное использование с злонамеренными целями для атак на организации поднимает уровень угрозы. Компании должны быть готовы защититься от таких рисков, интегрируя новые системы защиты и адаптируя старые.
Следующий шаг за Anthropic — внедрение необходимого контроля на своих платформах, чтобы минимизировать риски использования AI. Без этого компания может столкнуться с серьёзными последствиями.