Исследования показывают, что нейросети могут дискриминировать кандидатов на основе их резюме, подстраивая предвзятости под свои выводы. В одном из недавних тестов языковая модель выбирала кандидатуру на инженерную должность, сменяя лишь объяснения своего выбора, в то время как фактические квалификационные данные оставались на одном уровне.
Примеры предвзятости нейросетей
В исследовании FairStress языковая модель выбирала кандидата, который в одном случае имел меньшую квалификацию, но объяснение наличия «потенциала и разнообразного опыта» изменяло исход. Это подчеркивает озабоченность тем, что алгоритмы могут накладывать свои стереотипы на базу данных, которая поневоле может не отражать реальное положение дел.
Подобные тесты проводились и с другими моделями, как RoBERTa и GPT. Выбор кандидата часто зависел от его имени, возраста или произношения. Это ярко иллюстрирует, как в случае недостатка информации, модели склонны к стереотипам; 77% ошибок у UnifiedQA совпадали со стереотипами.
Риски для HR и компаний
В результате распространения нейросетей, настроенных под разные социальные группы, работодатели могут невольно применять предвзятые алгоритмы. Это особенно актуально в странах, где нормы о позитивной дискриминации могут быть ограничены по законам или корпоративной политике. Отказ от этих норм может привести к неумышленному пренебрежению равноправием, что ставит под угрозу имидж компании и её юридические обязательства.
Важно понимать, что многие работодатели используют рекомендации ИИ-рекрутеров, полагаясь на их «объективность». Однако реализация алгоритмов может привести к дискриминации, если принципы их работы не будут четко обозначены и зафиксированы.
Заключение и практические рекомендации
Для российских HR-специалистов и работодателей важно формировать чёткие механизмы проверки предвзятости в ИИ. Использование разнообразных данных для тренировки моделей, периодическая оценка потенциала и корректировка алгоритмов помогут снизить риск дискриминации. Применение этических норм в работе с ИИ должно стать основным приоритетом для успешной и справедливой работы на рынке труда.
Дальнейшие шаги — разработка стандартов и протоколов проверки алгоритмов на предмет предвзятости, которые могут стать основой для новых исследований и применения технологий AI на ранних стадиях.