Google откатил новую AI-функцию в Google Earth меньше чем через сутки после запуска. Сервис позволял менять спутниковые и аэрофотоснимки по текстовому запросу, но почти сразу стало ясно: инструмент слишком удобен для фабрикации правдоподобных фейков.
Запуск быстро упёрся в проблему дезинформации
Функцию запустили 30 июля. Она работала на модели Nano Banana 2 и позволяла добавлять на снимки несуществующие объекты и сцены. Исследователь и OSINT-автор Хенк ван Эс показал, как с её помощью можно сгенерировать, например, лагерь беженцев у границы США и Мексики или другие чувствительные сюжеты, которые легко выдать за реальность.
Для Google Earth это особенно болезненная история. Этим сервисом пользуются журналисты, аналитики, урбанисты и исследователи, когда нужно посмотреть на местность без лишней художественной самодеятельности. Когда в такой продукт встраивают генератор картинок, доверие к самим снимкам начинает трещать по швам.
Водяные знаки не спасли от отката
Сначала Google отвечал, что AI-изображения получают цифровую метку, а запросы на опасные темы должны блокироваться. Но уже 31 июля компания сообщила, что сворачивает функцию и возвращается к доработке защитных механизмов. По сути, Google признал простую вещь: пользователи доверяют Google Earth как источнику достоверного представления о мире, а скриншоты с поддельными сценами это доверие быстро подрывают.
Есть и неприятная деталь. Сгенерированные изображения не попадали в общую публичную ленту Google Earth, но их можно было сохранить и разнести по соцсетям как обычные скриншоты. Ван Эс также утверждает, что в его тестах система не смягчала спорные запросы и не предлагала безопасные альтернативы.
Почему это важно для рынка
История важна не только для Google. Она показывает, насколько рискованно встраивать генеративный ИИ в продукты, которым пользователи доверяют как источнику фактов, а не развлечения. Для российских и СНГ-команд вывод практический: если сервис связан с картами, документами, видеофиксацией или аналитикой, водяного знака мало. Нужны жёсткие ограничения на сценарии использования, понятные пометки и проверка того, как материал будет выглядеть уже вне продукта — в мессенджерах, презентациях и новостных лентах.
Если Google вернёт функцию, то уже с куда более строгими ограничениями — иначе второй такой запуск рынок просто не простит.