КИБЕРБЕЗОПАСНОСТЬ

AI-агент Meta Muse мог показать чужие переписки и банковские данные

Сотрудники Meta сообщили, что AI-агент Muse мог смешивать чаты разных аккаунтов и показывать чужие банковские балансы и сообщения.

✍️ Редакция iTech News | 20.11.2026 | ⏱ 4 мин | Источник: TechCrunch
AI-агент Meta Muse мог показать чужие переписки и банковские данные

AI-агент Meta Muse, запущенный в сентябре и уже набравший более 10 млн загрузок, оказался в центре жалоб сотрудников Meta: во внутренних тестах сервис, по их словам, мог подмешивать в диалоги данные других людей. Речь не о странной рекомендации или неверном ответе нейросети, а о чужих сообщениях, напоминаниях и даже остатках на банковских счетах — сценарии, который для любого бизнеса с ИИ-интеграциями выглядит как ночной кошмар службы безопасности.

Как сообщает TechCrunch со ссылкой на изученные Reuters внутренние публикации Meta, сотрудники замечали в Muse сведения, которых сами никогда не вводили и не запрашивали. Среди таких эпизодов назывались запросы о помощи с уходом за детьми, советы по карьере, заказы товаров и банковские балансы, принадлежавшие, предположительно, другим пользователям.

В одном из описанных случаев сотрудник обсуждал с агентом погоду и приливы. Затем Muse без видимой причины добавил информацию о двух банковских обновлениях: баланс в Capital One на $2722,58 и баланс в Charles Schwab на $5899,57. В другом случае сотрудница, тестировавшая продукт на личном телефоне, получила от Muse напоминание ответить сестре в Signal. Signal использует сквозное шифрование, а сама сотрудница заявила, что не давала агенту доступ к другим приложениям и не помнит запроса такого разрешения.

Именно здесь проблема выходит за пределы обычных галлюцинаций генеративного ИИ. Галлюцинация — это когда модель уверенно сочинила несуществующий факт. Появление правдоподобных персональных данных, привязанных к конкретным сервисам и суммам, выглядит иначе: как возможное нарушение изоляции между аккаунтами, источниками контекста или инструментами, подключёнными к агенту. Из опубликованных данных нельзя установить техническую причину инцидентов и подтвердить, что каждая показанная запись действительно принадлежала другому пользователю. Но уже сам такой класс жалоб требует расследования на уровне архитектуры доступа и журналов обработки данных.

Представитель Meta в комментарии TechCrunch подчеркнул, что тестирование сотрудниками — часть разработки и нужно именно для сбора обратной связи, улучшения продукта и внедрения механизмов безопасности и приватности. Компания также указала на важную оговорку: сотрудники используют версии Muse, отличающиеся от публичных, и могут проверять функции и поведение, недоступные внешним пользователям. Это не снимает вопросов к инцидентам, но означает, что описанные случаи нельзя автоматически переносить на всю аудиторию приложения.

Для разработчиков агентных продуктов история с Muse — неприятное напоминание: модель сама по себе не должна иметь «магического» доступа к данным. Риски часто возникают на стыке компонентов: при передаче истории между сессиями, кэшировании ответов, маршрутизации запросов в многопользовательской инфраструктуре, неверно заданных правах интеграций или слишком широком наборе подключённых инструментов. Если агент умеет читать почту, календари, мессенджеры, CRM и финансовые уведомления, то ошибка контекстной изоляции становится не просто багом интерфейса, а потенциальным инцидентом с персональными данными.

Командам, внедряющим ИИ-ассистентов внутри компаний, полезно проверять такие системы не только на точность ответов. Нужны тесты на разделение арендаторов и пользователей, минимальные привилегии для каждого коннектора, прозрачный экран выданных разрешений, аудит обращений к инструментам и возможность быстро отозвать токены доступа. Отдельно стоит тестировать «соседние» сценарии: что увидит агент после смены аккаунта, восстановления сессии, параллельных запросов и подключения личного устройства сотрудника.

Для IT-директоров и продуктовых команд случай важен ещё и с точки зрения доверия. Пользователь может простить ИИ неточный ответ о погоде или неудачный текст письма. Чужой банковский баланс в чате — уже не ошибка, которую исправит более удачный промпт: это повод отказаться от интеграции и спросить, какие ещё данные агент видит без явного согласия. Особенно болезненно такие инциденты выглядят в корпоративных продуктах, где рядом с личной перепиской могут оказаться коммерческие условия, исходный код, кадровые документы и данные клиентов.

AI-агент Meta Muse пока проходит путь, типичный для амбициозных агентных систем: полезность растёт вместе с количеством доступных источников данных, а цена ошибки — вместе с ней. Главный вопрос теперь не в том, насколько быстро Meta исправит конкретные сообщения из внутренних тестов, а сможет ли рынок доказуемо обеспечить границы между пользователями до того, как агенты станут постоянными посредниками между людьми и их цифровой жизнью.

Поделиться: Telegram X LinkedIn