Meta за один релиз вычистила из приложения Meta AI почти все следы системы NameTag, которая должна была распознавать людей через умные очки. История важна не только из-за очередного скандала вокруг приватности: распознавание лиц Meta оказалось частично встроено в приложение, установленное более чем на 50 млн смартфонов, а значит речь идет уже не о лабораторном прототипе, а о заготовке под массовый продукт.
Как пишет Ars Technica, компания удалила из свежей версии Meta AI библиотеки распознавания лиц, код самого процесса NameTag, уведомление вида «человек распознан», а также папку, где должны были храниться обрезанные изображения лиц и биометрические сигнатуры тех людей, которых система не смогла определить. Проще говоря, из приложения исчезла не косметика, а почти вся техническая обвязка функции, существование которой Meta публично до этого не спешила признавать.
По данным публикации, NameTag был рассчитан на довольно чувствительный сценарий. Умные очки захватывают лицо человека, приложение превращает его в уникальную биометрическую подпись, то есть faceprint, а затем сравнивает с базой таких подписей, сохраненной на устройстве пользователя. Если совпадение найдено, система должна показать профиль распознанного человека. Если нет, лицо все равно не пропадало бесследно: его планировалось кадрировать, индексировать и хранить локально для дальнейшей обработки. Именно этот момент и выглядит самым неприятным для отрасли: пользователь мог даже не получить работающую функцию, но технический контур для накопления чувствительных данных уже был на месте.
Контекст у истории тянется не первый месяц. В феврале The New York Times со ссылкой на внутренние документы Meta писала, что компания разрабатывает распознавание лиц для своих очков и рассматривает запуск уже в этом году. Тогда же всплыл особенно токсичный фрагмент: в одном из мемо, как сообщалось, обсуждался релиз в «динамичной политической среде», когда защитники приватности и гражданских свобод будут заняты другими темами. На прошлой неделе WIRED обнаружил, что значительная часть механики NameTag уже была встроена в Meta AI как минимум с января, хотя Meta при этом публично утверждала, что окончательного решения по запуску распознавания лиц нет.
После публикации Meta выбрала довольно странную линию защиты. Вице-президент по коммуникациям Энди Стоун назвал функцию исследовательской и заявил, что финального решения о ее судьбе нет. До этого, когда журналисты задавали вопросы о том, как система будет работать, компания отвечала в духе «такой функции не существует». CTO Meta Эндрю Босворт пошел еще жестче и назвал публикацию вводящей в заблуждение и откровенно нечестной. Проблема для Meta в том, что новый релиз приложения спор закрыл не в ее пользу: если код распознавания лиц, служебные компоненты и хранилище биометрических данных пришлось убирать вручную, значит у журналистов был не фантом, а вполне осязаемый набор компонентов в продакшн-сборке.
Не менее показательно и то, на какие вопросы компания не ответила до выхода материала. Meta не пояснила, была ли уже создана база лицевых профилей для работы NameTag, как долго приложение могло бы хранить фотографии и биометрические данные нераспознанных людей, могли ли эти данные отправляться на серверы компании, и собиралась ли Meta вообще давать пользователям внятую схему opt-in или opt-out. Отдельно остался без ответа и вопрос о целевой аудитории: компания не подтвердила, что система создается специально для незрячих или слабовидящих пользователей, хотя такой аргумент мог бы стать для нее удобным публичным прикрытием. На этом фоне критика со стороны защитников приватности выглядит не как идеология, а как нормальная реакция на продукт, который потенциально помогает идентифицировать незнакомцев на улице.
Директор программы Technology for Liberty в ACLU of Massachusetts Кейд Крокфорд прямо указал, что удаление кода не отменяет самого решения незаметно пронести его в массовое приложение. Крокфорд связал этот случай с необходимостью более жесткого регулирования пользовательских данных и напомнил, что палата представителей штата Массачусетс на прошлой неделе единогласно одобрила законопроект о приватности потребителей с сильными механизмами правоприменения. Для рынка это важный сигнал: главная дискуссия уже не о том, «этично ли» встраивать биометрию в носимые устройства, а о том, кто и на каком этапе должен остановить компанию, если она решила сначала тихо выкатить инфраструктуру, а объясняться потом.
Для разработчиков и продуктовых команд эта история неприятна по двум причинам. Первая: граница между «экспериментальным кодом» и «функцией, доставленной на миллионы устройств» больше не выглядит формальностью. Если компонент встроен в приложение, попадает в релиз и имеет заготовки под хранение биометрии, регуляторы, журналисты и юристы будут считать его частью продукта, даже если переключатель в интерфейсе еще выключен. Вторая: мобильное устройство в таких кейсах становится не просто клиентом, а локальным контейнером для особо чувствительных данных. Это меняет требования к логированию, ретеншену, структуре локальных баз, отладочным меню и даже к именованию внутренних модулей. Когда в сборке лежат папки и библиотеки с говорящими названиями, спорить потом о том, что ничего не существует, почти бесполезно.
Для бизнеса вывод тоже довольно прямой. Компании, которые делают AI-ассистентов, носимую электронику и компьютерное зрение, все чаще идут по одной и той же траектории: сначала в продукт попадает инфраструктура, потом появляются формулировки про «исследовательский режим», и лишь после утечки или расследования начинается разговор о правилах. В случае с Meta это особенно чувствительно, потому что распознавание лиц Meta связано не с камерой в торговом центре и не с корпоративной системой доступа, а с потребительскими очками, которые могут использоваться в обычной городской среде. А значит вопрос уже не в том, сможет ли компания технически вернуть распознавание лиц Meta в следующем обновлении, а в том, насколько быстро отрасли придется доказывать, что массовая биометрия в гаджетах не должна появляться раньше ясных юридических и продуктовых рамок.