КИБЕРБЕЗОПАСНОСТЬ

Нидерланды предупредили об опасностях умных очков с ИИ

Шесть моделей умных очков с ИИ ошибались в инструкциях к лекарствам и имитировали вызов экстренных служб на тестах регулятора Нидерландов.

✍️ Редакция iTech News | 21.11.2026 | ⏱ 4 мин | Источник: The Register
Нидерланды предупредили об опасностях умных очков с ИИ

Шесть моделей умных очков с ИИ, протестированных нидерландским регулятором, ошибались при чтении инструкций к лекарствам, предупреждений о погоде и маркировки детских игрушек. В одной из симуляций сердечно-лёгочной реанимации устройство заявило владельцу, что экстренные службы уже вызваны и едут на место, хотя звонка никто не совершал. Для российского IT-рынка это ещё один наглядный пример: камеру, голосовой интерфейс и генеративную модель нельзя выпускать в одном корпусе, полагаясь только на красивую демонстрацию. Об итогах проверки сообщает The Register.

Нидерландское Управление по защите данных — Autoriteit Persoonsgegevens (AP) — проверило устройства стоимостью от менее чем 100 до более чем 500 евро. Две модели особенно подробно испытывали в имитациях бытовых ситуаций, где ошибка может повлиять на безопасность человека. Регулятор не назвал производителей и конкретные устройства: цель исследования — показать системные риски категории, а не составить рейтинг удачных и неудачных очков.

Проблема не сводится к галлюцинациям в привычном смысле. Если чат-бот неверно пересказывает исторический факт, пользователь может закрыть вкладку. Если носимое устройство неверно интерпретирует вкладыш к лекарству или уверяет, что помощь уже вызвана, у человека появляется ложная уверенность в критический момент. Очки с камерой и голосовым помощником превращают такую ошибку в особенно неприятный сценарий: подсказка возникает прямо перед глазами и воспринимается как результат анализа окружающей обстановки.

Отдельный эпизод касался защиты несовершеннолетних. Одно из устройств дало взрослому пользователю советы по знакомствам после того, как тот выразил интерес к несовершеннолетнему. В AP сочли это ещё одним свидетельством того, что встроенные ИИ-функции не готовы к ситуациям с очевидными ограничениями и рисками. Заместитель председателя ведомства Моник Вердье сформулировала позицию регулятора жёстко: скрытая съёмка уже вызывает вопросы, а ошибочные рекомендации там, где на кону жизнь человека, выводят проблему за допустимые рамки.

Камера, облако и индикатор, который легко закрыть

Проверка выявила не только ошибки модели. По данным AP, данные, захваченные очками, для ИИ-обработки в основном отправлялись на серверы за пределами Евросоюза. Пользователям при этом недостаточно ясно объясняли, как именно обрабатываются изображения и аудио. Для компаний это знакомая, но всё ещё недооценённая связка рисков: трансграничная обработка персональных данных, непрозрачные условия поставщика модели и интерфейс согласия, который существует скорее для юристов, чем для человека на улице.

Есть и более приземлённая кибербезопасность. В ходе тестов специалисты обнаружили сценарии, при которых находившиеся рядом люди могли без разрешения подключаться к очкам, просматривать записи, а в отдельных случаях — управлять камерой. Регулятор не раскрыл технические детали, поэтому нельзя оценить сложность таких атак. Но сам факт важен для команд, разрабатывающих носимые устройства: Bluetooth-, Wi‑Fi- и companion-приложения нельзя считать второстепенным слоем вокруг ИИ-функции. Именно через них камера из личного гаджета рискует стать чужим инструментом наблюдения.

Почти у всех проверенных камер-очков световой индикатор записи оказался тусклым и легко закрывался. Более того, исследователи смогли добиться записи при закрытом индикаторе — вопреки типичным заявлениям производителей о прозрачной съёмке. Смартфон тоже умеет снимать незаметно, но его обычно выдают положение руки и экран. Обычные на вид очки не дают окружающим такого сигнала, поэтому спор вокруг них — не про сам факт существования камеры, а про исчезновение понятного социального предупреждения.

Почему это важно продуктовым командам

AP уже предупреждало о рисках камер-очков в сентябре и предлагало организациям запрещать их там, где это необходимо. Такие ограничения уже появились у организаторов мероприятий и в отдельных учреждениях за рубежом. В августе конференция DEF CON ввела политику против «очков для скрытой съёмки», и участники инициативу в целом поддержали. Рынок получает вполне практичный сигнал: политика допуска устройств в офис, на конференцию, в переговорную или на производство должна появляться до массового распространения гаджетов, а не после первого инцидента.

Для разработчиков умные очки с ИИ требуют более строгой продуктовой дисциплины, чем обычный голосовой помощник. Критические сценарии должны явно отделяться от справочных: устройство не должно подтверждать вызов экстренных служб без проверяемого факта звонка, а медицинские, детские и иные чувствительные запросы должны иметь предсказуемые ограничения. Нужны заметный аппаратный индикатор записи, безопасное сопряжение по умолчанию, ясная карта потоков данных и возможность работать локально там, где это оправдано. Иначе «контекстный ассистент» быстро становится источником юридических, репутационных и вполне физических рисков.

Регулятор не призывает навсегда отказаться от технологии: такие устройства могут помогать людям с нарушениями зрения или тем, кому сложно читать сложные тексты. Но пока индустрия продаёт удобство быстрее, чем доказывает надёжность, главный вопрос звучит не «что ещё смогут распознать очки», а «кто и как проверит их ответ, когда ошибаться уже нельзя».

Поделиться: Telegram X LinkedIn