Бесплатный сервис KodikScan за месяц после запуска использовали более 37 тыс. раз: пользователи проверили около 12 тыс. видео и 25 тыс. текстов на признаки генерации ИИ. Для рынка это не просто красивая цифра из пресс-релиза, а довольно приземленный сигнал: проверка дипфейков постепенно выходит из ниши редакций и ИБ-команд в повседневный цифровой быт.
О статистике сообщает CNews со ссылкой на команду KodikScan. Приложение выпустили в конце мая, его разработала компания «Архитех ИИ» как инструмент против цифрового мошенничества. Сервис позиционируется как бесплатный и рассчитан не только на специалистов, но и на обычных пользователей, которые хотят понять, сгенерирован ли контент нейросетью и есть ли в нем следы ИИ-манипуляции.
Если разложить цифры по типам контента, картина получается показательная. Видео проверяли 12 тыс. раз, тексты — 25 тыс. раз. Уже одно это соотношение многое говорит о сценариях использования. Массовый страх перед дипфейками обычно связывают с поддельными видеороликами и голосовыми сообщениями, но на практике пользователи, похоже, не меньше опасаются текстовых вбросов: фальшивых сообщений, объявлений, призывов к пожертвованиям и прочего контента, который выглядит правдоподобно ровно до того момента, пока не выясняется, что его писал не человек. В этом смысле проверка дипфейков оказывается задачей не только для медиафорензики, но и для вполне бытовой цифровой гигиены.
Разработчики прямо привязывают продукт к росту мошеннических сценариев с ИИ. Речь идет о голосовых и видеосообщениях, которые злоумышленники могут рассылать от имени других людей, а также о фальшивых благотворительных обращениях с использованием лиц знаменитостей. Это уже не та история, где дипфейк обсуждают как эффектную демонстрацию возможностей генеративных моделей. Здесь он рассматривается как прикладной инструмент социальной инженерии. И это, вероятно, самая важная часть всей новости: спрос на такие сервисы формируется не академическим интересом к качеству нейросетей, а вполне понятной потребностью быстро проверить сомнительный контент до того, как пользователь переведет деньги, отправит код подтверждения или просто поверит в подделку.
По словам разработчика ИИ-среды Kodik Рафаэля Гильмурахманова, первыми доступ к сервису получили СМИ, но затем к нему быстро подключились обычные пользователи. В этой детали есть любопытный сдвиг. Еще недавно инструменты детекции ИИ-контента в публичном поле в основном воспринимались как профессиональный софт для редакций, платформ модерации или крупных корпоративных служб безопасности. Теперь же, судя по поведению аудитории, появляется запрос на «народную» экспертизу контента. Не факт, что такой запрос всегда будет сопровождаться корректной интерпретацией результатов, но сам переход показателен: пользователь хочет не просто читать новости о рисках ИИ, а иметь под рукой кнопку «проверить».
Технически KodikScan работает по знакомой для этого класса систем схеме. Сервис использует ML-модели для анализа изображения, видео, аудио и текста, извлекает скрытые признаки сгенерированного контента и оценивает вероятность того, что материал был создан или модифицирован с помощью ИИ. Среди анализируемых признаков названы визуальные паттерны, структура шума, временная динамика видео, акустические особенности голоса и статистика текста. Иначе говоря, система не обещает магического вердикта по одному кадру или одному слову, а пытается сопоставить контент с шаблонами, на которых модель обучилась на большом количестве примеров. Для технической аудитории здесь нет сенсации: именно так и должен выглядеть более-менее серьезный инструмент детекции. Но важно другое: такие механики начинают упаковывать в массовый продукт, а не только в исследовательские демо.
Впрочем, на этом месте стоит удержаться от лишнего оптимизма. Любая проверка дипфейков — это вероятностная оценка, а не судебная экспертиза с финальным приговором. В новости нет данных о точности сервиса, доле ложных срабатываний, устойчивости к новым моделям генерации или качестве работы на разных типах контента. Нет и детализации по аудио, хотя именно голосовые подделки сейчас часто фигурируют в разговорах о мошенничестве. Для бизнеса и разработчиков это означает простую вещь: такие инструменты полезны как фильтр первого уровня, но плохо подходят на роль единственного арбитра. Если речь идет о деньгах, репутации бренда или юридически значимом контенте, результаты автоматической проверки все равно придется встраивать в более широкий процесс верификации.
Тем не менее сам спрос на сервис уже выглядит важнее отдельных маркетинговых формулировок. Для ИБ-команд это подтверждение, что тема ИИ-мошенничества перестала быть абстракцией из презентаций. Для продуктовых команд — намек на новый класс пользовательских функций: от встроенной верификации медиа до предупреждений о вероятной генерации контента. Для HR и внутренних коммуникаций — напоминание, что риски начинаются не только с внешних атак, но и с поддельных сообщений «от руководителя» или фейковых обращений внутри компании. А для медиа это почти неизбежный следующий этап после фактчекинга: проверять теперь нужно не только источник информации, но и происхождение самого носителя.
На ближайшей дистанции главный вопрос не в том, сколько еще десятков тысяч проверок наберет отдельный сервис, а в том, успеют ли массовые инструменты детекции за темпом генеративных моделей. Если пользовательская проверка дипфейков станет такой же привычной, как антивирусная проверка файла или двухфакторная аутентификация, рынок получит новый базовый слой цифровой самообороны. Если нет, мошенники продолжат играть на старом и надежном преимуществе: подделку всегда проще отправить, чем распознать.