Anthropic выявила пять случаев, где Claude и биориски оказались слишком близко друг к другу: ученые использовали модель для работы, похожей на подготовку исследований биологического оружия. По данным Engadget, компания заблокировала аккаунты и вынесла эти эпизоды в новый отчет о злоупотреблениях своими ИИ-моделями. Для IT-команд это не сюжет из лабораторного триллера, а практический сигнал: чем умнее становятся модели, тем дороже обходятся слабые политики доступа, мониторинга и модерации.
Отчет Anthropic вышел 10 сентября 2026 года и описывает не один громкий инцидент, а набор кейсов из разных зон риска. В биологическом блоке компания разобрала пять эпизодов, где запросы пользователей затрагивали потенциально опасные исследования. Anthropic подчеркивает: она не утверждает, что эти люди хотели причинить вред. Речь идет о работающих ученых, а публикация имен лабораторий или институтов могла бы создать для них отдельные риски. Поэтому компания раскрыла схему происходившего, но не личности участников.
Самый показательный кейс датирован маем. Внутренний классификатор биологической безопасности Anthropic заметил запрос к Claude: пользователь просил помочь с заявкой на грант для gain-of-function-исследования вируса чикунгунья. Такой тип работ связан с изменением свойств организма. В описанном случае заявка предполагала повышение заразности вируса и его способности обходить иммунный ответ. Чикунгунья не имеет лицензированного лечения и может вызывать тяжелые симптомы на недели или месяцы. Дополнительным красным флагом стала связь предлагаемой работы с военным исследовательским институтом.
Похожая логика сработала и в других эпизодах. Anthropic указывает на запросы, связанные с gain-of-function-исследованиями птичьего гриппа, а также на случай, где исследователь использовал Claude для создания атласа токсичных пептидов ядов и генеративного конвейера для оптимизации характеристик токсинов. Формулировки звучат академично, но именно в этом и проблема: опасный запрос редко выглядит как злодейская реплика из комикса. Он может быть оформлен как нормальная научная задача, грантовая заявка или методологическая помощь.
Глава направления threat intelligence в Anthropic Джейкоб Кляйн описал ситуацию как крайне неоднозначную: разработка вакцины и подготовка биологического оружия на ранних этапах могут выглядеть почти одинаково. Поэтому компания, по ее словам, выбирала осторожность. Если последствия ошибки могут быть катастрофическими, система безопасности должна уметь не только ловить прямые просьбы о вреде, но и замечать комбинации признаков: тип организма, цель модификации, институциональный контекст, ожидаемый результат и уровень детализации.
Для разработчиков и продуктовых команд здесь важна не только тема биологии. В том же отчете Anthropic описывает использование моделей для слежки, создания программных эксплойтов, пропаганды и оружейных систем. Это уже ближе к повседневной работе в компаниях: генеративный ИИ стал универсальным ускорителем, а значит, ускоряет не только полезные процессы. В корпоративной среде это бьет по привычной идее «дадим всем доступ, а дальше разберемся». Доступ к мощной модели без журналирования, ролевых ограничений и понятной процедуры эскалации быстро превращается в слепую зону.
Claude и биориски также показывают ограниченность простого фильтра по запрещенным словам. В научных и инженерных доменах опасность часто сидит не в одном термине, а в намерении и связке действий. Запрос про токсин сам по себе может быть частью медицинского исследования. Запрос про оптимизацию токсичности в сочетании с генеративным пайплайном и практической применимостью — уже другой разговор. Поэтому поставщики ИИ двигаются к специализированным классификаторам, контекстным проверкам и расследованиям после срабатывания, а не только к всплывающему окну с отказом.
Бизнесу из этого стоит вынести скучный, но полезный урок. Политика использования ИИ не должна быть PDF-файлом, который подписали на онбординге и забыли. Нужны категории запрещенных задач, правила для чувствительных доменов, отдельный режим для R&D, аудит промптов там, где это законно и уместно, и понятная ответственность владельцев продукта. Особенно это касается биотеха, кибербезопасности, оборонных подрядчиков, фармы и любых команд, где модель может помогать с лабораторными, инженерными или эксплуатационными инструкциями.
Для Anthropic публикация таких кейсов — еще и попытка задать стандарт прозрачности. Компании, которые продают мощные модели, будут все чаще сталкиваться с вопросом: что именно они видят, когда говорят о злоупотреблениях, и где проходит граница между безопасностью, приватностью и контролем над пользователями. Claude и биориски стали удобным, хотя и тревожным примером: ИИ уже достаточно полезен для серьезной науки, а значит, достаточно полезен и для опасных ее ответвлений. Следующий этап конкуренции между AI-платформами будет не только в скорости и цене токена, но и в способности вовремя понять, что пользователь строит не продукт, а проблему.