28 мая 2026 года оксфордский философ и AI-этик Карисса Велиз вынесла в публичную дискуссию неприятный тезис: предиктивный ИИ не просто помогает принимать решения, а все чаще подсказывает начальству именно то, что оно хочет услышать. Для разработчиков, продактов, HR и фаундеров это плохая новость: если модель уже встроена в найм, увольнения или оценку сотрудников, ошибка быстро превращается в управленческую политику.
Об этом сообщает Sifted в анонсе нового выпуска своего подкаста, где ведущий Джон Торнхилл беседует с Велиз, философом, специалистом по этике ИИ и ассоциированным профессором Оксфордского университета. Поводом стала ее новая книга Prophecy: Prediction, Power, and the Fight for the Future. В ней Велиз проводит линию от античных оракулов и средневековых прорицателей к современным алгоритмам: и те, и другие нередко работают не как машина истины, а как сервис по подтверждению ожиданий сильных мира сего.
Формулировка резкая, но в корпоративной реальности звучит слишком узнаваемо. Когда компания покупает систему для найма, скоринга кандидатов или оценки риска увольнения, она редко хочет получить ответ «ваши критерии изначально перекошены». Гораздо удобнее увидеть красивый дашборд, список «сильных» и «слабых» кандидатов и процент уверенности, который придает спорному решению вид объективности. Велиз как раз бьет по этой зоне комфорта: если алгоритм обучен на прошлых решениях организации, он с высокой вероятностью законсервирует прошлые предубеждения, а не исправит их.
Отдельно в подкасте обсуждается, что происходит, когда такие системы заходят в HR и венчурный контур. Вопрос, который поднимает Велиз, звучит просто: что именно делает компания, когда передает ИИ право рекомендовать, кого нанимать, кого продвигать, а кого увольнять? На бумаге это выглядит как оптимизация. На практике это часто делегирование ответственности модели, которая не понимает ни контекста, ни цены ошибки для человека. В найме это означает фильтрацию по суррогатным признакам, в управлении командой — иллюзию точного прогноза по продуктивности, в венчуре — повторение одних и тех же шаблонов при оценке основателей и рынков.
Для русскоязычной IT-аудитории здесь важен не академический, а прикладной слой. Предиктивный ИИ давно продается как ответ на дефицит времени: меньше ручного скрининга, быстрее принятие решений, выше «качество» отбора. Но если в систему заложены спорные цели, непрозрачные метрики или плохие данные, ускоряется не качество, а масштаб ошибки. Разработчик в такой схеме становится не нейтральным исполнителем, а участником управленческого выбора. Продакт отвечает не только за конверсию пайплайна, но и за то, какие стимулы вшиты в продукт. HR получает не волшебную линзу, а инструмент, который может закрепить старые практики под новым ярлыком.
Еще одна тема разговора — способны ли технологические гиганты к содержательному саморегулированию. Сам вопрос уже звучит как укол по индустрии. За последние годы большие платформы много говорили об ответственной разработке, внутренних принципах и guardrails, но спор вокруг ИИ все чаще упирается в конфликт стимулов: чем больше данных, тем сильнее модели; чем сильнее модели, тем выше соблазн применять их везде, где можно измерить человека. Велиз, судя по описанию выпуска, предлагает смотреть не на декларации, а на архитектуру власти: кто собирает данные, кто получает право предсказывать поведение других и кто потом несет издержки, если прогноз оказался удобным, но неверным.
Это особенно болезненная точка для компаний, которые строят продукты вокруг наблюдения за сотрудниками, кандидатами или пользователями. Формула «сначала соберем все, потом разберемся» в случае с ИИ плохо сочетается с разговорами об этике. Если модель делает карьерные или финансовые выводы на основе массивов поведенческих данных, вопрос уже не в том, насколько она умная. Вопрос в том, имела ли организация право строить такую систему, можно ли оспорить ее выводы и понимает ли кто-то внутри компании, где проходит граница между аналитикой и слежкой. Велиз в этом смысле предлагает полезную оптику: не спрашивать, может ли ИИ предсказывать, а сначала спросить, зачем именно мы хотим предсказывать людей и кому это дает преимущество.
Для бизнеса вывод тоже довольно земной. Если совет директоров, инвесторы или топ-менеджмент слышат от модели в основном приятные для себя прогнозы, это не признак зрелости AI-стека, а повод насторожиться. Самые опасные системы не те, что часто ошибаются на демо, а те, что выглядят правдоподобно и удобно встраиваются в бюрократию. Они редко ломают процесс сразу. Они постепенно делают спорное решение «нормой», потому что его якобы поддержала машина.
На этом фоне разговор о «человекоцентричном ИИ», который в подкасте тоже поднимается, перестает быть PR-термином. Для инженерных и продуктовых команд это означает довольно скучные, но важные вещи: ограничивать сбор данных, не маскировать вероятностную оценку под финальный вердикт, оставлять человеку право на пересмотр и не внедрять модель только потому, что она умеет ранжировать людей по какому-нибудь скору. Главный вопрос, который ставит Велиз, неприятен именно своей простотой: если предиктивный ИИ так хорошо помогает управлять людьми, не построим ли мы с его помощью не более умные компании, а просто более дисциплинированные системы контроля?