OpenAI помог выявить центр интернет-мошенничества в Камбодже, где ChatGPT использовали для подготовки и перевода приманок. Для ИТ-рынка здесь важен не экзотический сюжет про Юго-Восточную Азию, а простой вывод: ИИ не придумал новую аферу, но резко удешевил старые схемы.
Что нашли OpenAI и Meta
По данным Meta, расследование началось после сигнала от OpenAI. Компания обнаружила попытки использовать свои инструменты для создания и перевода материалов мошенников, заблокировала связанные аккаунты и передала индикаторы коллегам по отрасли.
Meta пишет, что речь шла о новом центре интернет-мошенничества в Камбодже, который работал на японском и китайском языках. После этого платформа расширила проверку уже на своей стороне и связала эпизод с более широкой сетью аккаунтов и инфраструктуры.
ИИ встроили в старые схемы, а не придумали новые
Суть истории прозаичнее, чем кажется. Большие языковые модели помогают быстрее писать сообщения для романтических афер, переводить тексты под нужный рынок и тестировать десятки вариантов одной и той же наживки без команды операторов и переводчиков.
В OpenAI отдельно отмечали, что такие группы используют модели не только для общения с жертвами. ИИ помогает собирать фальшивые вакансии, рекламные тексты и внутреннюю операционную переписку. Преступный аутсорс тоже любит автоматизацию.
Почему это важно для рынка
Meta оценивает масштаб проблемы жестко: только за 2024 год компания удалила более 2 млн аккаунтов, связанных с такими центрами в Камбодже, Мьянме, Лаосе, ОАЭ и на Филиппинах. Для банков, торговых платформ, сервисов знакомств и служб поддержки в России и СНГ это означает одно: ловить нужно не только плохой текст, а поведение, инфраструктуру и платежные цепочки.
Оригиналы: отчет OpenAI, разбор OpenAI о мошенничестве с ИИ и отчет Meta.
Следующий логичный шаг для рынка - обмениваться индикаторами таких кампаний так же быстро, как сейчас обмениваются данными о фишинге.