Компания Anthropic запустила Project Glasswing, который направлен на защиту важного программного обеспечения от кибератак, использующих искусственный интеллект. Инициатива инициирована в условиях растущих угроз в области безопасности, вызванных развитием технологий ИИ.
Кто участвует в проекте
К проекту присоединились такие крупные компании, как Amazon Web Services, Apple, Cisco, Google, Microsoft и NVIDIA. Они будут использовать новую модель Claude Mythos Preview для улучшения своих систем безопасности. Anthropic утверждает, что эта модель уже обнаружила тысячи уязвимостей в основных операционных системах и веб-браузерах.
Проблема киберугроз
Согласно данным фирмы, AI может стать инструментом для нападений на системы и данные. Например, в феврале 2023 года модификация AI использовалась хакером для атак на несколько мексиканских правительственных учреждений. Такие случаи подчеркивают необходимость разработки мер по усилению защиты.
Как это повлияет на безопасность
Запуск Project Glasswing может стать важным шагом к улучшению киберзащиты в эпоху ИИ. Для разработчиков программного обеспечения это обозначает новые возможности для защиты собственных технологий и данных. Ключевые игроки на рынке теперь могут применять более эффективные инструменты для преодоления угроз, возникающих из-за использования ИИ в кибератаках.
Следующий шаг — активная работа над интеграцией разработок с партнерами и начало тестирования новых инструментов безопасности в различных секторах.