30 выводов AI-аналитика о метриках условного интернет-магазина не пережили статистическую проверку. Модель безошибочно считала выручку, конверсию и долю возвратов, но увидела падения, точки роста и аномалии там, где в данных был только случайный шум. Для команд, которые всё чаще поручают ИИ первичный разбор таблиц, ложные инсайты ИИ становятся не академической неприятностью, а прямым риском для продуктовых и денежных решений.
Эксперимент провёл Сергей Прощаев, техлид и руководитель направления Java/Kotlin-разработки в FinTech и e-commerce; об этом сообщает Habr / Карьера. Он сгенерировал 72 строки недельных метрик: 12 недель, шесть сегментов аудитории и шесть показателей — от сессий и заказов до среднего чека, выручки и возвратов. В генератор изначально не заложили ни трендов, ни различий между сегментами по вероятности заказа, чеку или возвратам. Отличался только объём трафика.
Затем одну и ту же таблицу шесть раз передали ChatGPT в новых чатах. В трёх прогонах модель просили подготовить для директора пять ключевых наблюдений: тренды, аномалии, различия сегментов и план действий. В остальных трёх добавили важную оговорку: перед тем как делать вывод, оценить, отличим ли сигнал от случайных колебаний, а при отсутствии сигнала прямо сообщить об этом.
В обычных прогонах ассистент выдал 20 утверждений, в скептических — ещё 10, подавая их осторожнее, как сигналы для проверки. Среди примеров — снижение выручки у новых web-пользователей на 13%, рост у вернувшихся пользователей web на 16,6% и всплеск возвратов до 13,2% у новых iOS-пользователей на 11-й неделе. Арифметика совпадала с CSV вплоть до десятых долей. Но ни одно из 30 содержательных утверждений не подтвердилось отдельными тестами.
Правильные цифры не делают выводы правильными
Это неприятное свойство аналитики с языковыми моделями: они хорошо упаковывают наблюдаемую разницу в убедительный деловой сюжет. Если в одном сегменте несколько недель вышли слабее, а в другом — сильнее, модель легко предложит сократить отток, масштабировать удержание или расследовать проблему на платформе. Для руководителя такой ответ выглядит особенно правдоподобно: есть проценты, приоритеты и список действий. Но случайный разброс в любой достаточно подробной таблице обязательно создаёт локальные максимумы, минимумы и красивые сравнения.
Прощаев проверял каждое заявление не повторным запросом к модели, а статистическим тестом, подходящим к типу тезиса. Тренды сверялись через ранговую корреляцию с номером недели, различия конверсии — через сравнение долей, необычные значения выручки — через интервалы предсказания, а «всплески» — с учётом того, что модель просмотрела десятки ячеек. Рабочий порог составил 0,05/90, или примерно 0,00056: автор сознательно ужесточил критерий для выводов, сформулированных после просмотра данных.
Даже менее строгий порог 0,05/30 не спас ни одно утверждение. Отдельный ручной перебор 90 срезов нашёл три формально интересных результата, но после поправки Холма их тоже не осталось. Автор дополнительно проверил методику на 100 новых таблицах без эффекта и использовал позитивный контроль: в копию датасета внесли четыре заранее заданных эффекта, и те же тесты нашли все четыре. Это не доказывает мощность проверки для любого реального бизнеса, но снимает простой контраргумент: будто тесты не находят вообще ничего.
Почему это касается не только аналитиков
Проблема выходит за пределы эксперимента с учебной таблицей. По описанию автора, агентная аналитика уже движется от демонстраций к рабочим сценариям: ассистент подключается к хранилищам, сам строит срезы и готовит выводы для менеджмента. Чем меньше человек видит исходные данные и логику отбора гипотез, тем проще принять гладкий текст за доказательство. Модель не обязана сообщить, сколько сравнений она неявно перебрала, прежде чем выбрала пять самых эффектных формулировок.
Для разработчиков это означает, что в аналитические агенты нужно закладывать не только доступ к данным и генерацию SQL. Нужны журнал гипотез, отображение выборки и периода, доверительные интервалы, проверка множественных сравнений и явный статус вывода: «описательное наблюдение» либо «подтверждённый эффект». Для продуктовых команд полезнее получить от ассистента список вопросов для проверки, чем готовый план перераспределения бюджета. А для руководителей хороший контрольный вопрос звучит скучно, но экономит деньги: какой тест подтверждает эту рекомендацию и сколько альтернативных срезов было просмотрено?
Ложные инсайты ИИ опасны именно потому, что редко выглядят как галлюцинация. Значения в таблице настоящие, формулы верные, а история про просадку конверсии или успех механики удержания звучит знакомо. Ошибка возникает на шаге между числом и причинным объяснением. Скептическая подсказка в эксперименте уменьшила количество громких заявлений, но не превратила модель в статистического рецензента.
Следующий зрелый этап AI-аналитики будет определяться не тем, насколько убедительно ассистент пересказывает дашборд, а тем, умеет ли он честно останавливаться. Пока такой навык нельзя считать гарантированным, ИИ стоит использовать для поиска гипотез и подготовки анализа, а право объявлять найденный тренд — оставлять процедуре проверки.
