United Airlines вводит ограничения для ИИ-агентов, которые пытаются действовать от лица пассажиров на её цифровых сервисах. Перевозчик опасается не только ошибочных покупок и утечки данных, но и более приземлённой проблемы: бот не может вместо человека подтвердить при регистрации, что в багаже нет запрещённых предметов. Для разработчиков агентных систем это ещё один сигнал: доступ к пользовательскому аккаунту не равен праву совершать любое действие.
О новых правилах 12 ноября сообщила United Airlines, сообщает The Register. Они распространяются на собственные цифровые платформы авиакомпании, а также на косвенный доступ через турагентства и сервисы-агрегаторы. Компания обновляет правила бронирования, оформления билетов и дистрибуции, чтобы ограничить работу неавторизованных сторонних помощников.
Логика United проста. При онлайн-регистрации пассажир лично подтверждает соблюдение требований безопасности, включая отсутствие в багаже запрещённых веществ и предметов. Если галочку ставит автономный агент, формально это уже не подтверждение пассажира. В авиации такие мелочи быстро перестают быть мелочами: за ними стоят регуляторные требования, ответственность перевозчика и безопасность рейса.
В компании также указывают на стандартный, но от этого не менее неприятный набор рисков. Пользователь, передавший логин и пароль личному ИИ-помощнику, открывает ему доступ к персональным данным, истории поездок и платёжным сценариям. Агент может по ошибке купить билет, изменить данные в бронировании или потратить мили MileagePlus. Даже если модель лишь следует инструкции, неверно понятый контекст, поддельная страница или небезопасное расширение браузера превращают делегирование в дорогой эксперимент.
Автоматизировать можно не всё
ИИ-агенты продаются как средство от цифровой рутины: найти рейс, сравнить варианты, оформить заказ, перенести встречу. Но чем ближе агент подходит к транзакциям и юридически значимым подтверждениям, тем заметнее граница между подсказкой и действием. Найти удобный перелёт — сравнительно безопасная задача. Нажать кнопку покупки, изменить паспортные данные или пройти процедуру, где требуется осознанное заявление человека, — уже другой класс риска.
Поэтому ограничения для ИИ-агентов в авиации выглядят не как война с автоматизацией, а как попытка разделить роли. Сервис может разрешить агенту искать рейсы и подготовить корзину, но потребовать явного подтверждения от владельца аккаунта на критических шагах. Такой подход знаком финтеху: пользователь может получать аналитику и рекомендации, однако перевод денег или изменение реквизитов нередко требуют отдельной аутентификации.
United не раскрыла The Register технические детали блокировки. Вариантов хватает: от проверки признаков автоматизированного управления браузером до биометрического подтверждения при важных операциях. У каждого есть цена. Детектирование ботов может задеть легитимные инструменты доступности и автоматизации, а биометрия добавляет вопросы о хранении чувствительных данных. Кроме того, агент может работать не через браузер, а через API партнёра — значит, ограничивать придётся не только интерфейс, но и права доступа на уровне всей цепочки бронирования.
Для продуктовых команд здесь важен ещё один вывод. «Действует от имени пользователя» — слишком широкое разрешение. Агентным продуктам нужны раздельные полномочия: просмотр информации, подготовка черновика, создание заказа, оплата, изменение аккаунта. Для каждой операции стоит заранее определить, достаточно ли согласия, выданного при подключении помощника, или необходимо подтверждение в момент действия. Иначе безопасность окажется последним пунктом в бэклоге — ровно до первого спорного списания.
Банки и ретейл уже выставляют барьеры
Авиакомпания не первая, кто настороженно отнёсся к самостоятельности цифровых помощников. В октябре сообщалось, что крупные банки США блокируют сторонних ИИ-агентов в банковских аккаунтах; в ноябре аналогичные сообщения появились о нескольких британских банках. United прямо ссылается на действия компаний из банковского и розничного секторов и призывает другие организации вводить меры, защищающие данные клиентов и требования безопасности.
Опасения подпитывает и практический опыт. Ранее в этом году британский математик Ханна Фрай провела эксперимент с агентом Cassandra, предоставив ему банковскую карту и широкие полномочия. Эксперимент обернулся раскрытием паролей и неудачными покупками. Смысл истории не в том, что нынешние агенты бесполезны: наоборот, Фрай предупреждала, что их способности быстро растут. Именно поэтому компании пытаются поставить ограждения до того, как автономные сценарии станут массовым поведением пользователей.
Российским разработчикам, интеграторам и бизнесу полезно смотреть на кейс United без снисходительной улыбки. В любой сфере, где есть персональные данные, платежи, лояльность или регуляторные требования, агент должен быть спроектирован как ограниченный исполнитель, а не как владелец учётной записи с безлимитной доверенностью. Это означает короткоживущие токены, журналирование действий, понятные подтверждения и возможность быстро отозвать доступ. Пользователю также нужен ясный ответ, кто именно нажал кнопку: он сам, его помощник или сервис, который притворился помощником.
Главный вопрос теперь не в том, смогут ли ИИ-агенты бронировать билеты: технически они уже близки к этому. Вопрос в том, где отрасли проведут линию между удобной автоматизацией и действиями, за которые человек обязан отвечать лично. Ограничения для ИИ-агентов у United показывают, что эта линия будет проходить не только по уровню технологии, но и по требованиям безопасности, права и доверия к сервису.
