OpenAI ликвидировал мошенническую организацию в Камбодже, использующую ChatGPT для проведения схем обмана, связанных с инвестициями, романтическим мошенничеством и фальшивыми правительственными уведомлениями. В результате было заблокировано множество аккаунтов, которые действовали из популярного города Поипет, известного своими мошенническими схемами и связями с торговлей людьми в прошлом.
Как действовала мошенническая сеть
Мошенники использовали ChatGPT для создания и поддержки фиктивных онлайн-личностей, генерации сообщений для жертв и создания рекламных материалов для своих схем. Отдельные аккаунты даже использовали ИИ для административных задач, таких как составление внутренних объявлений и документация по долгам сотрудников. В одном из случаев рекламировались «работы» с обещанием зарплаты в $800 в месяц плюс бонусы, что привлекло людей из Бангладеш и Индии.
Разнообразие схем мошенничества
Мошенники использовали различные подходы, сочетая романтические уловки с инвестиционными предложениями на криптовалюту и игрушечным золотом. В некоторых случаях они выдавали себя за представителей правоохранительных органов, чтобы создать ложное чувство опасности и заставить жертв «уплатить штрафы». Мошеннические тактики варьировались от создания поддельных профилей знакомств до предоставления фальшивых документов и интерфейсов для азартных игр.
Что это значит для IT-отрасли
Для многих компаний это служит сигналом о важности мониторинга и защиты от использования ИИ в мошеннических схемах. Мошенничество увеличивается, и необходимы более строгие меры по идентификации и блокированию таких мошеннических действий. Анализ такой ситуации показывает, что мошеннические схемы становятся все более сложными и разнообразными, что делает их труднее обнаруживать и предотвращать.
Несмотря на успешные действия OpenAI, масштабы финансовых потерь, связанных с этой сетью, остаются неизвестными. Это подчеркивает необходимость более тщательной работы с пользователями и применения технологий для защиты от атак.