Взлом Hugging Face для популярной модели синтеза речи Kokoro оказался возможен через регистрацию домена прежнего владельца. Исследователи получили контроль над аккаунтом издателя, а затем за 87 секунд изменили веса модели на игровой видеокарте — без правок в коде приложения. Для команд, которые автоматически подтягивают обновления открытых моделей, это ещё один повод относиться к весам как к исполняемому компоненту цепочки поставок, а не как к безобидному файлу данных.
Kokoro — open-weight модель преобразования текста в речь с поддержкой нескольких языков и более чем 50 голосовых пресетов. По данным BleepingComputer, у неё почти 13 млн ежемесячных загрузок на Hugging Face. Модель используют и поддерживают в инструментах Google, NVIDIA и Intel; AMD и AWS публиковали материалы о её применении в сценариях с ИИ-агентами. При этом разработчик проекта Hexgrad не выпускал обновлений с апреля 2025 года: тогда же фактически замерли репозиторий на GitHub и пакет в PyPI.
Команда исследователя Алона Херца обнаружила, что домен hexgrad.com, указанный в публичном файле DONATE.md проекта, оказался свободен. Они зарегистрировали его, запросили сброс пароля и получили доступ к аккаунту издателя Kokoro на Hugging Face. Внешне такая учётная запись продолжает выглядеть легитимно: то же имя поставщика, привычный канал доставки, знакомая архитектура модели и файлы сопоставимого размера.
Самая неприятная часть демонстрации — не возможность выложить в репозиторий обычный вредоносный файл. Исследователи показали иной сценарий: дообучением изменить нейросетевые веса так, чтобы модель произносила не то, что ей передали во входном тексте. Инференс-код, конфигурация и голосовой файл при этом остаются прежними. Антивирусу здесь буквально не за что зацепиться: в обновлении нет нового исполняемого кода, очевидного загрузчика или сигнатуры известного вредоноса.
Модифицированные веса команда тестировала только локально и не загружала их на платформу, чтобы не подвергать риску реальные системы. Однако проверка на другом аккаунте показала, что сервис не должен был автоматически пометить подобное обновление как подозрительное. Иными словами, успешный взлом Hugging Face мог бы превратить авторитетный репозиторий в канал распространения подменённой модели под видом штатного релиза.
Риск шире одного голосового движка. Многие ML-проекты закрепляют версии моделей и проверяют хеши, но не все; в прототипах и внутренних сервисах нередко скачивают актуальную ревизию по имени репозитория. Особенно опасна такая привычка для голосовых агентов, систем обработки документов, RAG-сервисов и пайплайнов, где модель автоматически обновляется во время сборки либо развёртывания. Подмена весов способна не только ухудшить качество ответа: в зависимости от задачи она может изменить классификацию, распознавание, ранжирование или, как в случае Kokoro, содержание аудиовыхода.
Херц обращает внимание и на проблему происхождения артефактов. Платформа, по его оценке, не подтверждает, что аккаунт по-прежнему принадлежит первоначальному владельцу, и не проводит содержательную проверку загружаемых моделей и датасетов. Далее веса расходятся по зеркалам, конвертированным версиям, GitHub-релизам, пакетным реестрам, инструкциям по развёртыванию и прямым скачиваниям. Одна скомпрометированная точка публикации может оставить след далеко за пределами исходного репозитория.
Для разработчиков практический минимум выглядит скучно, но работает: фиксировать конкретные ревизии моделей, хранить и сверять криптографические хеши, держать проверенную копию артефакта во внутреннем реестре и разделять тестовый и производственный каналы обновлений. Полезно также назначить владельца списка внешних моделей: кто-то должен понимать, откуда они пришли, когда обновлялись и что изменилось. Проверка домена автора и активности проекта не заменяет технический контроль, но может вовремя подсветить заброшенный репозиторий.
Этот взлом Hugging Face показывает сдвиг в модели угроз: защищать нужно уже не только код зависимостей, но и поведение нейросетей после обновления весов. Чем больше готовых моделей попадает в production через одну строку конфигурации, тем ценнее становятся воспроизводимые сборки, изолированное тестирование и возможность быстро откатить конкретный артефакт. Главный открытый вопрос для экосистемы — появятся ли у крупных модельных хабов понятные механизмы подтверждения владельцев и проверки происхождения весов до того, как подмена доберётся до рабочих сервисов.


