С 1 июля 2027 года работодатели в Калифорнии не смогут полностью передать увольнение с помощью ИИ алгоритму: решение о дисциплинарном взыскании или расторжении контракта должен проверить человек, а сотрудник вправе узнать его основания. Новый закон SB 947, получивший неофициальное название No Robo Bosses Act, важен и для российских IT-команд: системы оценки эффективности, найма и сокращений давно стали глобальным рынком, а юридические требования крупных штатов обычно быстро превращаются в требования корпоративных заказчиков по всему миру.
Закон подписал губернатор Калифорнии Гэвин Ньюсом, сообщает ZDNet. Документ не запрещает компаниям использовать automated decision systems — так в тексте закона названы автоматизированные системы принятия решений. Запрет касается более узкого, но болезненного сценария: нельзя позволить системе самостоятельно определить, кого наказать или уволить, а затем оформить это как решение работодателя без содержательной проверки.
Человеческий проверяющий должен сопоставить вывод системы с фактическими данными. В перечне прямо названы кадровые документы, результаты оценок, рабочие материалы сотрудника, отзывы коллег и показания свидетелей. Если работодатель не может подтвердить вывод алгоритма либо проверяющий считает его неточным, неполным или вводящим в заблуждение, использовать такой вывод для взыскания или увольнения нельзя. Сотруднику также обязаны описать причины решения и раскрыть, на каких данных оно основывалось.
Для HR-автоматизации это означает смену фокуса. Недостаточно добавить в продукт кнопку «одобрено менеджером» и хранить журнал кликов. Компаниям придётся выстраивать проверяемый процесс: фиксировать входные данные, версию модели или правила скоринга, замечания ревьюера и основания, по которым он согласился либо не согласился с рекомендацией системы. Иначе спор о кадровом решении быстро превратится в спор о том, был ли человек реальным участником процесса или просто поставил подпись под экраном с рейтингом.
Повод для закона вполне практический. В апрельском опросе MyPerfectResume среди 1 000 HR-специалистов 73% респондентов сообщили, что применяют ИИ при найме, а 52% используют его для планирования реструктуризации и ролей. Ещё 51% задействует алгоритмы, чтобы отмечать кандидатов как потенциально «рискованных». Лишь 26% участников опроса сказали, что вообще не используют ИИ в решениях о сокращениях. Эти цифры не доказывают, что большинство увольнений уже решает машина, но показывают: алгоритм всё чаще оказывается внутри цепочки, где цена ошибки — потерянная работа и репутация.
Калифорнийский подход заметно строже простого раскрытия факта использования ИИ. В ряде штатов, включая Колорадо и Коннектикут, регулирование в сфере найма в основном строится вокруг уведомления кандидатов или работников. SB 947 требует не только сообщить об автоматизации, но и не опираться на непроверенный результат при дисциплинарном решении. Кроме того, работодателям придётся объяснять, был ли ИИ причиной массового увольнения, перевода подразделения или прекращения работы сотрудников.
Юрист по ИИ и основательница Metaverse Law Лили Ли в комментарии ZDNet предупредила о главной лазейке: компании могут превратить человеческий контроль в формальную процедуру, чтобы не тратить ресурсы на реальный пересмотр рекомендаций. Право работника запросить объяснение частично сдерживает такой сценарий, но значительная часть споров, вероятно, всё равно будет решаться через жалобы. Закон позволяет затронутым сотрудникам обращаться к уполномоченному по труду Калифорнии, если работодатель нарушил установленный порядок.
Для разработчиков HRTech и корпоративных платформ это не просто задача для юристов. Нужно заранее проектировать трассируемость: какие признаки повлияли на рекомендацию, откуда взялись данные, кто и как отменил вывод модели, можно ли восстановить ход рассмотрения через месяцы. Особенно осторожными придётся быть с поведенческими метриками — анализом активности, коммуникаций, производительности и «рисков». Чем непрозрачнее показатель, тем труднее доказать, что увольнение с помощью ИИ не стало замаскированным автоматическим вердиктом.
Федеральных правил США, которые одинаково защитили бы работников во всех штатах, пока нет: на национальном уровне регулирование ИИ в трудовых отношениях остаётся менее конкретным и во многом опирается на добровольные обязательства компаний. Поэтому Калифорния вновь тестирует модель, которую затем могут скопировать другие регионы. Главный вопрос не в том, оставят ли в кадровых процессах человека — его уже оставляют на схеме, — а в том, сможет ли он действительно оспорить вывод алгоритма до того, как письмо об увольнении уйдёт в корпоративную почту.