Режиссер Валери Витч выпустила документальный фильм о ген AI, под названием "Ghost in the Machine". Она утверждает, что многие современные generative AI-системы унаследовали расовые и гендерные предвзятости, что требует внимательного обращения.
Предыстория и контекст
Витч заинтересовалась генеративными моделями, такими как Sora от OpenAI, когда они впервые появились в 2024 году. Однако её увлечение быстро сменилось шоком, когда она увидела, насколько грубыми и расистскими могут быть результаты, произведенные этими системами. Это побудило её создать фильм, чтобы пролить свет на систему, с которой она столкнулась, и исследовать ее корни.
Проблема расовых и гендерных предвзятостей
В своем интервью Витч отметила, что "в некоторых случаях технологии генерируют расизм и сексизм без каких-либо дополнительных запросов". Это отражает столь же явные, как и скрытые стереотипы, присущие обществу. Она считает, что понимание истории этих технологий имеет жизненно важное значение для формирования будущего.
"Чтобы говорить о терминах 'искусственный интеллект', нам нужно понимать, что они на самом деле означают", — добавила она. По её словам, термин — скорее маркетинговым хлестаком, чем качественным определением технологии. Она призывает к ясности в вопросах касательно задач и возможностей AI, чтобы минимизировать вредные эффекты и последствия от его использования.
Значение для аудитории
Для специалистов в области технологий и разработчиков это предупреждение об осторожности при интеграции генеративных AI-систем. Предпринимателям и компаниям стоит помнить, что неосторожное внедрение таких технологий может привести к нежелательным последствиям и ожесточенным спорам в сообществе.
К тому же, обсуждение предвзятостей в AI должно стать основой для улучшения и переформатирования обучающих данных, чтобы избежать воспроизведения социальных стереотипов, которые могут утвердить расовые или гендерные неравенства в современном обществе.
Следующий шаг для Витч — ее фильм будет представлен на фестивалях и мероприятиях, и она надеется начать широкую дискуссию об этике и практике разработки AI-технологий.