ИИ-мошенничество быстро уходит из категории странных фишинговых писем в зону долгих, убедительных и персональных атак: по данным FBI IC3, ущерб от интернет-преступлений против жителей США вырос с $4 млрд в 2020 году до $21 млрд в 2025-м. Для разработчиков, безопасников и IT-директоров это неприятная новость: патчить теперь нужно не только системы, но и человеческие привычки, а с ними все сложнее.
Об этом в разговоре с Dark Reading рассказал Фред Хайдинг, исполнительный директор Menlo Park Intelligence и исследователь AI security. Интервью проходило на Dark Reading News Desk во время Black Hat USA 2026 в Лас-Вегасе; вместе с Хайдингом на конференции выступал бывший национальный кибердиректор США Крис Инглис.
Главный тезис Хайдинга простой и довольно холодный: с техническими атаками у защитников хотя бы есть симметрия. Злоумышленники используют модели для поиска уязвимостей, автоматизации разведки и генерации кода, но защитники тоже могут применять ИИ для анализа, детекта и приоритизации рисков. В социальной инженерии баланс ломается. Атакующий получает модель, которая умеет писать, подстраиваться под контекст, помнить детали и терпеливо вести диалог. Защитник получает человека, который устал, отвлекся, доверился или просто одинок.
Хайдинг формулирует проблему жестко: человека нельзя обновить как библиотеку. У нас остаются старые когнитивные эвристики, привычка доверять знакомому голосу, реакция на срочность, эмпатия к собеседнику и слабость к персональному вниманию. Модель же масштабируется почти бесплатно. Она может вести сотни диалогов, тестировать разные интонации, подбирать культурные маркеры и не терять терпение, пока жертва не сделает нужный перевод или не выдаст доступ.
Особенно опасны не разовые письма, а многоходовые схемы. Хайдинг говорит о цепочке мошенничества, которую его команда описывает как scam kill chain: сначала выбирается цель, затем устанавливается контакт, строится доверие, после чего начинается вывод денег. Раньше такие операции требовали времени живых операторов. Теперь часть этой работы можно отдать ботам: голосовым моделям, чат-агентам, системам генерации персональных сообщений. ИИ-мошенничество становится не только дешевле, но и психологически точнее.
Отдельная зона риска — голосовые и романтические скамы. По словам Хайдинга, голосовые модели уже позволяют создавать очень убедительные сценарии обмана, а долгие отношения с ботом могут длиться месяцами. Он приводит пример обсуждения в прессе китайских ограничений на эмоциональную зависимость от ИИ-сервисов: пользователи уже успевают привязаться к ботам до такой степени, что готовы платить значимые суммы, лишь бы сохранить доступ к ним. Для криминального рынка это почти готовая инфраструктура доверия, только без нормальной ответственности.
Здесь появляется неудобный вопрос к AI-компаниям. Хайдинг считает, что способность к обману трудно просто вырезать из модели: она тесно связана с обычной языковой компетентностью, умением убеждать, поддерживать беседу и учитывать контекст. Лаборатории могут вводить проверки клиентов, ограничивать доступ к мощным моделям, фильтровать очевидно вредные запросы и строить команды противодействия социальной инженерии. Но рядом остаются open-weight-модели, которые не сильно отстают и могут использоваться вне аккуратных корпоративных контуров.
Для бизнеса это означает, что классическая программа awareness-тренингов начинает выглядеть слишком тонкой защитой. Да, сотрудникам по-прежнему нужно объяснять признаки фишинга, deepfake-звонков и поддельных срочных поручений. Но в эпоху персонализированных диалогов компаниям придется пересматривать процессы: платежи и доступы должны подтверждаться не доверием к голосу начальника, а независимыми каналами, лимитами, журналами действий и понятными правилами эскалации. Чем больше денег или прав доступа на кону, тем меньше места должно оставаться для человеческой импровизации.
Для разработчиков и продактов вывод тоже практичный. Если продукт включает чат-бота, голосового агента или ИИ-компаньона, недостаточно написать в футере, что это программная система. Хайдинг прямо говорит, что LLM не должны притворяться людьми: пользователь должен понимать, с кем он разговаривает. Это вопрос не только этики, но и будущего регулирования. Интерфейсы, которые специально выращивают эмоциональную зависимость, могут оказаться токсичным активом, даже если метрики удержания выглядят красиво.
Парадокс в том, что ИИ может помогать и защитникам: анализировать жалобы, искать шаблоны мошенничества, усиливать фильтры почты и подсвечивать подозрительные переписки. Но экономическая математика пока не всегда сходится. Массовая проверка каждого письма или разговора мощной моделью стоит денег, а мошенникам достаточно найти небольшой процент людей, на которых атака сработает. Следующая гонка в кибербезопасности, похоже, пройдет не вокруг очередного эксплойта, а вокруг вопроса, кто быстрее научится распознавать момент, когда доверие превращается в поверхность атаки.