29-летнего жителя Сиднея Дэвида Лана Текрея задержали после того, как он, по версии следствия, сообщил чат-боту Claude о намерении устроить стрельбу в детском дошкольном учреждении. Угрозы в диалоге с Claude стали поводом для уголовного дела, а внимание к переписке, как утверждается, привлёк Интерпол. История важна не только как криминальная хроника: она показывает, что отказ модели отвечать на опасный запрос — лишь одна часть системы безопасности вокруг ИИ.
Как сообщает Habr / Новости, Текрея арестовали утром 18 октября, а на следующий день суд оставил его под стражей. Ему вменяют использование средств связи для запугивания, преследования или оскорбления. По материалам, представленным полиции в суде Сазерленда, мужчина якобы написал Claude, что собирается немедленно отправиться в торговый центр Westfield и открыть стрельбу в расположенном там детском саду.
Следствие также указывает, что в переписке упоминался Навид Акрам — человек, которого обвиняют в нападении вместе с отцом на семьи, отмечавшие Хануку на пляже Бондай в Сиднее в декабре 2025 года. Прокуратура возражала против освобождения под залог, ссылаясь на риск тяжёлых последствий. Представители обвинения заявили суду, что, по их оценке, обвиняемый намеревался убивать людей в Сиднее. Это позиция обвинения, а не установленный судом факт.
Защита описывает ситуацию иначе. Адвокат Данило Райкович заявил, что высказывания его подзащитного не опирались на реальный план и были эмоциональной реакцией на сильный стресс. По его словам, исходно Текрей обращался к чат-боту в поисках способа лечения ушной инфекции. Защитник также сообщил, что мужчина изучает международные отношения, живёт в Австралии более 17 лет и ранее не был судим. Ему назначено психиатрическое освидетельствование.
В таких делах легко свести разговор к простому вопросу: «сообщает ли бот в полицию?». На практике ответ зависит от деталей: текста диалога, оценки немедленного риска, внутренних процедур компании, законодательства конкретной страны и действий посредников. Anthropic публично заявляет, что Claude должен отказывать в запросах о планировании или подстрекательстве к насилию; в экстренных обстоятельствах пользовательские данные могут передаваться правоохранительным органам. В данном случае источник не раскрывает ни технический механизм обнаружения угрозы, ни состав переданных данных.
Для разработчиков ИИ-продуктов это напоминание о неприятной, но прикладной границе: безопасный ответ модели не закрывает инцидент. Нужны понятные процедуры эскалации, журналирование и ограничение доступа к данным, проверка ложных срабатываний и юридически выверенный маршрут для действительно срочных случаев. Чем больше система автоматизирует первичную оценку риска, тем выше цена ошибки в обе стороны: пропущенной угрозы и необоснованного обращения к полиции.
Особенно чувствителен вопрос доверия. Ранее сообщалось, что модель Anthropic передала полиции Филадельфии недостоверное сообщение о нераскрытом убийстве через публичную линию для обращений; компания обнаружила это значительно позднее. Поэтому угрозы в диалоге с Claude нельзя рассматривать как готовое доказательство намерений: для правоохранителей это сигнал к проверке, для компаний — повод показать, как устроены контроль и ответственность, а для пользователей — напоминание, что разговор с ИИ не всегда остаётся только разговором с ИИ.
