Anthropic допустил утечку, в результате которой несанкционированные пользователи получили доступ к его AI-модели Mythos, посвященной кибербезопасности. Для компании, утверждающей о своей приверженности безопасности, этот инцидент ставит под сомнение её способности защищать данные клиентов.
Как произошла утечка
Утечка произошла через ненадлежащую защиту со стороны третьего подрядчика Anthropic, который использовал свои полномочия для доступа к закрытой модели Mythos. Сотрудники смогли выявить модель с помощью обычных инструментов, доступных любому исследователю в интернете, что подчеркивает важность строгого контроля доступа и проверки поставщиков услуг.
Mythos привлекла внимание благодаря заявлениям о выявлении тысяч уязвимостей в браузерах и операционных системах. Например, Mozilla сообщила о том, что с помощью этой модели выявила более 270 уязвимостей в Firefox. Однако, несмотря на свою высокую эффективность, модель не застрахована от инцидентов, связанных с недостатками в инструментах третьих сторон.
Рынок Cybersecurity и последствия утечки
Рынок кибербезопасности в последние годы значительно расширился. По данным аналитиков, ожидается рост на 15% в год, что делает его привлекательным для компаний, таких как Anthropic. Однако текущая ситуация подрывает доверие клиентов, которые нуждаются в надежных решениях для защиты данных.
Согласно отчёту Gartner, 85% всех кибератак происходит из-за человеческого фактора, что также подчеркивает обострение проблемы безопасности на уровне доступа. Неудача Anthropic может послужить уроком для будущих разработчиков AI-моделей о необходимости более тщательной проверки всех сторонних доступов.
Важно для бизнеса
Компании, работающие в сфере кибербезопасности, должны учитывать риски, связанные с доступом третьих сторон. Внедрение многофакторной аутентификации и регулярные аудиты смогут снизить вероятность подобных инцидентов. Финансовые последствия для Anthropic могут привести к снижению стоимости акций и потерям репутации, что важно учесть их клиентам и партнерам. Если ваша организация полагается на AI-решения для безопасности, стоит уделить внимание проверке поставщиков.
Следующий шаг для Anthropic включает в себя перепроверку процедур безопасности и анализ путей улучшения защиты данных. Рынку остается только надеяться, что урок будет извлечён.