На конференции QCon London 2026 специалисты обсудили, что множество рисков, связанных с AI, являются инженерными задачами, а не только вопросами управления. Это вызвано тем, что AI-системы все больше внедряются в критические продукты и процессы принятия решений, где ошибки могут иметь серьезные последствия.
Проблемы и вызовы
Выступление Клары Хигерры, руководителя программы ответственного AI в BBVA, подчеркнуло, что инциденты, такие как неверное определение подозреваемого из-за facial recognition, демонстрируют, как алгоритмические ошибки могут негативно сказаться на жизни людей. Важно понимать, что многие из этих ошибок возникают на этапе разработки из-за недостатков в обучающих данных, архитектуре моделей и процессах оценки.
По данным Хигерры, недостаточная репрезентативность обучающих выборок и неоптимальные объекты оценки часто ведут к дискриминации в таких областях, как кредитование и медицина. Это подчеркивает необходимость учитывать этические аспекты на каждом этапе разработки, а не после развертывания системы.
Ключевые принципы этической разработки AI
Среди представленных принципов были выделены справедливость, прозрачность, безопасность и устойчивость. Справедливость относится к тому, как модели работают для разных групп пользователей, и необходимо обеспечивать, чтобы результаты не приводили к системному ущемлению прав. Прозрачность подразумевает улучшение интерпретируемости и объяснимости моделей, чтобы все заинтересованные стороны могли понимать, как принимаются решения.
Например, внедрение процессуальных проверок на справедливость и тестирование на возможность атак поможет избежать множества проблем после развертывания. Интересно, что компании часто знают о важности этики, но у них отсутствуют четкие методы для ее внедрения в повседневную практику.
Практические выводы для разработчиков
Для разработчиков это означает необходимость интеграции этических проверок в цикл разработки. Это включает в себя оценку данных на репрезентативность, анализ поведения моделей по демографическим группам и мониторинг после развертывания, чтобы системы оставались под контролем. Компании, которые смогут наладить процесс, смогут избежать серьезных проблем с общественным доверием и правовыми последствиями.
Следующая конференция в QCon, где будут обсуждаться итоги внедрения этих практик, сможет дать новые решения для проблем, которые остались нерешенными на текущий момент.