Доступ к советам ИИ может резко ухудшать качество человеческих решений, даже когда людям платят за точность. В эксперименте европейских исследователей доля правильных ответов без помощи модели составила 27%, а с подсказками ИИ упала до 9%, зато уверенность участников выросла с 30% до 76%. Для русскоязычной IT-аудитории это плохая, но полезная новость: проблема уже не в одних только галлюцинациях моделей, а в том, как быстро человек перестает замечать собственное незнание.
Об этом сообщает The Register со ссылкой на работу Валерио Капраро из Миланского университета Бикокка, Кьяры Маркоччиа из Высшей нормальной школы и Вальтера Кваттрочокки из римского университета Сапиенца. Авторы поставили довольно точный вопрос: если у человека под рукой всегда есть мгновенный ответ от модели, не начнет ли он реже говорить себе и другим простую, но полезную фразу «я не знаю».
Для проверки исследователи выбрали вопросы, на которых большие языковые модели обычно ошибаются. Речь шла не о математике и не о программировании, а о визуальных деталях из фильмов: например, о цвете формы команды в фильме Bend It Like Beckham или о том, на каком автомобиле ездит Моника в Like a Cat on a Highway. Логика понятна: такие детали хуже представлены в обучающих данных, а значит, модель будет не просто иногда промахиваться, а делать это системно. В эксперименте использовали модель Step 3.5 Flash именно потому, что она чаще давала неверные ответы. Это важный момент: авторы специально убрали удобное оправдание в духе «люди просто разумно делегировали задачу более надежному инструменту».
Дальше цифры становятся неприятнее. Участников разделили на две группы. Первая отвечала самостоятельно, вторая могла запрашивать советы ИИ. В базовом сценарии 44% людей честно признавали, что не знают ответа, и воздерживались от суждения. С доступом к модели эта доля рухнула до 3%. Иначе говоря, сам навык «остановиться и не угадывать» почти исчез. Это, пожалуй, главный вывод всей работы: ИИ не просто подсовывает ошибку, а снижает готовность человека признать границы своего знания.
Но и это не все. Точность ответов в группе без ИИ была 27%, а в группе с ИИ упала до 9%. То есть часть участников, которые сами могли бы ответить правильно, после обращения к модели становились неправы. Еще показательнее метрика уверенности. Без помощи ИИ уверенными в своей правоте были 30% участников. С подсказками модели этот показатель подскочил до 76%. Получается почти классическая ловушка автоматизации: качество решения падает втрое, а субъективная уверенность растет более чем в два раза. Для индустрии, где многие процессы уже начинают строить вокруг copilots, ассистентов и генеративного поиска, это куда важнее очередной дискуссии о том, умеет ли модель писать SQL без ошибок.
Почему это касается не только кино-викторин
Авторы отдельно проверили, можно ли смягчить эффект деньгами. Участникам дали финансовый стимул отвечать точнее. Это немного помогло, но не спасло картину. Готовность признать незнание выросла с 3% до 8%, а точность поднялась с 9% до 16%. Однако оба показателя все равно остались сильно хуже базового уровня без модели: 44% по воздержанию от ответа и 27% по точности. Даже когда у человека появляется прямой материальный мотив не ошибаться, привычка доверять машине никуда не исчезает.
Конечно, исследование нельзя механически переносить на любой рабочий сценарий. В нем использовались вопросы, на которых выбранная модель была заведомо слаба. Кроме того, The Register упоминает, что более свежие модели уровня GPT-5.5, Claude Sonnet 4.6 и Gemini 3.5 Flash на части подобных вопросов справлялись лучше, хотя тоже ошибались, в том числе на вопросе про автомобиль. Но в этом и состоит неудобный вывод: если даже на демонстративно слабом кейсе человек не включает базовый фильтр сомнения, то с более сильной моделью ложное чувство надежности будет только комфортнее. Пользователь перестает проверять не потому, что ответ доказан, а потому, что он пришел быстро, гладко и без пауз.
Для разработчиков здесь довольно прямой практический вывод. Если команда внедряет ИИ в поиск по документации, генерацию кода, triage инцидентов или внутренние knowledge-базы, то метрикой успеха нельзя считать только скорость ответа. Нужны механики, которые сохраняют у пользователя право на сомнение: ссылки на источник, видимая степень уверенности, явные маркеры неполного ответа, сценарии с предложением «не знаю» вместо убедительного блефа. Иначе организация получает не усиление экспертизы, а конвейер уверенных полуправд. Особенно опасно это в онбординге джунов, в продуктовой аналитике и в HR-процессах, где красиво сформулированная ошибка может пережить десяток созвонов и превратиться в рабочее допущение.
Что это значит для бизнеса и образования
Капраро в комментарии The Register говорит, что проблему вряд ли удастся решить только силами вендоров моделей: их стимулы не всегда совпадают с задачей воспитывать критическое мышление у пользователей. Поэтому он считает более перспективным путь через образование и повышение ИИ-грамотности. Эта мысль особенно жестко звучит применительно к детям и молодым пользователям, которые знакомятся с цифровой средой уже в эпоху генеративных ассистентов. Если взрослые хотя бы успели выучить привычку проверять, спорить и зависать над вопросом, то у тех, кто растет с ИИ «из коробки», эта привычка может просто не сформироваться.
Для компаний отсюда следует неприятный, но полезный вопрос: не слишком ли рано мы приучаем людей воспринимать ответ модели как черновик истины. Пока рынок обсуждает, сколько процентов времени экономит очередной ассистент, более важной метрикой становится другая: сколько ложной уверенности он производит на единицу ускорения. И если бизнес не научится измерять этот эффект, то следующей проблемой будут уже не галлюцинации модели, а галлюцинации команды, усиленные интерфейсом. Подробнее о самом исследовании и комментариях авторов можно посмотреть в материале .
