Airwars опубликовала разбор того, как системы машинного обучения участвуют в военных решениях и где именно они дают сбой. Главный вывод неприятный, но важный: ошибка возникает не в одной «умной» системе, а на всей цепочке — от сбора данных и перевода сообщений до выбора цели и оценки последствий удара.
Для русскоязычной IT-аудитории это не экзотика из оборонной сферы, а знакомый инженерный сюжет. Шумные данные, ошибочный машинный перевод, завышенное доверие к автоматическим рекомендациям и человек, который формально контролирует процесс, но по факту не успевает ничего проверить.
Airwars разбирает не оружие, а архитектуру решений
Об исследовании 28 июля 2026 года написал . В центре материала — проект Anatomy of an AI Kill Chain, который подготовили Sophia Goodfriend, Heidy Khlaaf, Namir Shabibi, Joe Dyke и Nathan Walker.
Авторы не пытались описать работу какой-то одной армии в реальном времени. Вместо этого они собрали вымышленную, но технически правдоподобную схему удара, чтобы показать, как машинное обучение встроено в современную военную цепочку решений. В этой схеме шесть этапов: сбор данных, наблюдение, разведка и идентификация, выбор цели, удар и оценка последствий.
Это важная рамка. Airwars предлагает смотреть не на отдельный дрон, подрядчика или модный алгоритм, а на всю систему целиком. В длинной цепочке каждая следующая рекомендация опирается на предыдущую. Если ошибка просочилась в начале, дальше она уже выглядит как «подтвержденный факт».
Ошибки накапливаются от перевода до распознавания цели
В разборе Airwars последовательно показывает, где именно возникают сбои. Системы поддержки решений могут неверно расставлять приоритеты еще на этапе сбора данных. Наблюдение опирается на массивы частной информации и пассивный сбор сигналов, но сам по себе большой объем данных не делает выводы точнее.
Один из самых показательных примеров — автоматический перевод сообщений. Если модель неверно поняла фразу или не уловила диалект, эта ошибка уходит дальше по цепочке. Человек-оператор может видеть исходный текст, но не знать язык или просто не иметь времени на перепроверку. В условиях срочности машина получает фору, а человек — роль формального наблюдателя.
Дальше подключаются системы оценки риска, которые анализируют связи в соцсетях, поведенческие признаки и другие косвенные сигналы. Для инженеров и продуктовых команд это знакомая проблема: вероятностная оценка слишком легко превращается в основание для действия. Корреляция начинает маскироваться под причинно-следственную связь.
Следующий слой — компьютерное зрение. Такие модели могут ошибаться в распознавании людей и объектов, особенно если реальные условия отличаются от обучающей выборки: другой ракурс, освещение, помехи, плохой сигнал. В самом отчете Airwars также упоминает ограничения рекуррентных нейросетей, которые применяют в дронах при ударах в условиях подавления GPS и радиоэлектронных помех.
Проблема не заканчивается даже после удара. Если система неверно оценивает ущерб, ошибка не только происходит, но и плохо диагностируется. Иными словами, сбой может остаться в отчетности как «успешная операция».
Миф о человеке в контуре работает не всегда
Ключевая цитата из материала The Register касается именно человеческого контроля. В отчете сказано, что, по данным недавней книги об американском военном ИИ, в некоторых операциях лишь две из шести стадий по-прежнему включают человека в контуре, еще одна предполагает частичный надзор, а остальные уже автоматизированы.
София Гудфренд, исследователь Airwars и научный сотрудник Кембриджского университета, прямо говорит: задача проекта не в том, чтобы перечислить названия конкретных систем, а в том, чтобы показать, как связка алгоритмов меняет саму логику войны. Это, пожалуй, самый неприятный вывод. Когда оператор получает на одном экране машинный перевод, машинную оценку риска и машинную классификацию объекта, он часто не контролирует решение, а лишь подтверждает его.
Здесь срабатывает хорошо известный эффект автоматического доверия к системе: если интерфейс показывает срочную и внешне обоснованную рекомендацию, человеку психологически проще согласиться, чем спорить с машиной под давлением времени.
Почему этот разбор важен не только для оборонки
Сильная сторона работы Airwars в том, что она переводит разговор с уровня брендов на уровень архитектуры. Для гражданского IT это тоже практический урок. Любые разговоры о «человеке в контуре» мало что значат без ответа на скучные, но решающие вопросы: откуда взялись данные, сколько времени есть на проверку, можно ли оспорить вывод модели, как фиксируются промежуточные ошибки и кто отвечает за сбой на стыке модулей.
Для бизнеса и госзаказчиков вывод тоже прямой: если покупать системы с ИИ без карты рисков, без понятной зависимости между модулями и без нормального аудита, обещание эффективности быстро превращается в управленческую проблему. В мирной разработке это грозит плохим релизом. В военной системе цена ошибки намного выше.
Детали исследования и исходный материал доступны у и на странице проекта .
Следующий этап этой дискуссии очевиден: чем глубже ИИ встраивают в критические решения, тем громче придется спрашивать не про «инновационность», а про пределы доверия к модели.