26% жалоб на киберпреступления, поступающих в ФБР, связаны с фишингом. Генеративный ИИ делает такие атаки грамотными, персональными и массовыми одновременно — а значит, защита почты от фишинга перестаёт быть задачей фильтрации вложений. Для российских IT-команд это повод проверить не только почтовый шлюз, но и процессы согласования платежей, доступов и кадровых изменений.
Как сообщает The Register, злоумышленники используют большие языковые модели, чтобы быстро собирать убедительные письма на нужном языке, под стиль конкретной компании и её отраслевую лексику. Раньше массовый фишинг часто выдавали ошибки, неуклюжие формулировки и шаблонный дизайн. Теперь эти маркеры легко устранить: атакующему не нужен ни хороший редактор, ни команда переводчиков, ни глубокое понимание бизнеса жертвы.
Главное изменение — исчезает прежний компромисс между массовостью и точностью. Классический spear phishing требовал ручной подготовки: изучить сотрудника, должность, партнёров, внутренние процессы. Массовая рассылка, напротив, была дешёвой, но грубой. Генеративный ИИ позволяет подготовить тысячи вариаций письма, где меняются имя руководителя, недавнее событие в компании, терминология отрасли и предлог для срочного запроса.
Старший вице-президент по кибербезопасности Kaseya Дейв Баггетт приводит простой пример: письмо в фармацевтическую компанию можно наполнить аутентичной профессиональной лексикой и сделать похожим на рабочую коммуникацию. Для атакующих это особенно выгодно в сценариях компрометации деловой переписки: вместо вредоносного файла они просят подтвердить банковские реквизиты, отправить данные по зарплатному проекту или срочно провести перевод.
Почему чистое письмо может быть опаснее вложения
Современная атака всё чаще обходится без заражённого архива, подозрительной ссылки и технической уязвимости. Письмо может прийти с обычного почтового ящика, состоять из нескольких строк и предлагать продолжить разговор в мессенджере или по телефону. Фильтр не находит сигнатуру вредоносного кода — потому что кода в первом сообщении нет. В такой схеме основной инструмент взлома — не эксплойт, а решение сотрудника.
Особенно удобная цель — человек, недавно вышедший на работу. Атакующие могут собрать сведения из публичных профилей, увидеть смену должности и написать от имени нового руководителя, с которым сотрудник ещё не успел познакомиться. Первый контакт выглядит безобидно, затем начинается переписка: просьба помочь с документом, проверить реквизиты, не обсуждать вопрос с коллегами из-за «срочности». Это уже не одно письмо, а аккуратно выстроенная социальная инженерия.
Отсюда и неприятная новость для компаний, которые оценивают почтовую безопасность по числу заблокированных вложений. Баггетт считает, что защита должна объяснять сотруднику контекст риска в момент принятия решения: почему отправитель вызывает сомнения, чем запрос отличается от обычного рабочего процесса и что именно нужно перепроверить. Формальное предупреждение «будьте осторожны» в такой ситуации почти бесполезно: его привыкли закрывать быстрее, чем читают.
Цена ошибки выросла вместе с качеством подделок. По приведённым The Register данным ФБР, ущерб от фишинговых атак за последние пару лет увеличился на 274%. После входа через одну учётную запись атакующие могут развивать доступ в облачных сервисах и SaaS-платформах, где находятся документы, переписка, финансовые операции и инструменты разработки. Почта остаётся входной точкой, но инцидент быстро перестаёт быть проблемой почтового администратора.
ИИ против ИИ — но с разной экономикой
Ответ рынка очевиден: применять ИИ для анализа контекста писем, поведения отправителей и структуры переписки. Такие системы должны оценивать, соответствует ли сообщение привычным паттернам общения, а не искать только опечатки или подозрительный файл. В полезный набор защитных механизмов входят проверка происхождения отправителя, безопасный анализ содержимого ссылок и компьютерное зрение для оценки визуальных элементов письма.
Однако симметричной гонки не получится. По оценке Баггетта, если пропускать через передовую большую языковую модель каждое входящее письмо, это будет примерно в 100 раз дороже, чем использование LLM атакующими для создания шаблонов. Поэтому практичная архитектура, вероятно, будет гибридной: компактные специализированные модели постоянно анализируют поток почты, а более тяжёлые модели подключаются к части писем с высоким риском или по запросу администратора.
Для разработчиков и IT-директоров вывод довольно приземлённый. Нужны независимые каналы подтверждения платежей и смены реквизитов, обязательная многофакторная аутентификация, минимальные привилегии в корпоративных сервисах и сценарии реакции на компрометацию аккаунта. HR-командам стоит включать в адаптацию новичков не абстрактный курс «о фишинге», а несколько правил: кто имеет право ставить срочные финансовые задачи, как проверять запрос руководителя и куда сообщать о сомнительном письме.
В перспективе ИИ сможет не только классифицировать сообщения, но и помогать администраторам разбираться в сотнях настроек защитных систем, снижая поток бессмысленных алертов. Но ближайший риск лежит не в далёком будущем: генеративный ИИ уже сделал убедительное письмо доступным почти любому злоумышленнику. Защита почты от фишинга теперь измеряется не количеством пойманных вирусов, а тем, сможет ли компания остановить правдоподобную просьбу до того, как она станет переводом денег или утечкой доступа.