Anthropic представил новый ИИ-модель Project Glasswing, способную находить уязвимости в крупных операционных системах и браузерах. Это решение, как ожидается, значительно упростит процесс кибербезопасности для крупных компаний и правительств.
Обозначение усилий по безопасности
Project Glasswing доступен исключительно для «защитных партнеров», среди которых такие гиганты, как Nvidia, Google, Amazon Web Services и Microsoft. Это ограничение введено, чтобы противостоять потенциальным злоумышленникам, которые могут использовать данную модель для атак. По этим Anthropic, модель уже обнаружила тысячи высокоопасных уязвимостей.
Модель с обучением на практике
Хотя новая модель не специально обучалась для обеспечения безопасности, по словам представителей компании, она продемонстрировала «сильные способности в кодировании и аналитике», что сделало её эффективной для системных анализов. Модель способна независимо выявлять уязвимости и даже разрабатывать связанные с ними эксплойты.
Например, Newton Cheng, ведущий специалист по кибербезопасности в Anthropic, сообщил, что у них есть примеры, в которых модель нашла уязвимости в каждом из основных операционных систем и браузеров. Это поднимает вопросы о безопасности даже тех систем, которые прежде считались надёжными.
Практические выводы для бизнеса
Для специалистов по кибербезопасности в России и СНГ эта новость должна служить предупреждением: существующие системы могут иметь уязвимости, которых мы не подозреваем. Инструменты, подобные Project Glasswing, могут быть интересными для внедрения в крупных организациях, стремящихся повысить уровень своей защиты. Поскольку Anthropic планирует выделить до $100 млн на использование этой модели, это может значительно снизить затраты на киберпрограммы.
Следующий шаг — расширение доступа к проекту. Anthropic объявила о намерении улучшать систему, реагируя на академические исследования и разработки в области кибербезопасности.