Исследование показало, что использование автоматизированных меток при обучении AI-моделей для сегментации опухолей в медицине приводит к ухудшению их качества на 66%. Особенно это заметно в случае молодых пациентов, которые, как выяснили исследователи, имеют опухоли, сложные для обучения — они больше и менее предсказуемы.
Контекст проблемы
Сегментация опухолей критически важна для диагностики и лечения рака. Однако существующие алгоритмы показывают неравномерные результаты, особенно в зависимости от возрастной категории пациентов. Обычно считается, что более высокая плотность молочной железы у молодых женщин усложняет задачу. Но настоящая причина глубже: другие факторы делают опухоли менее однородными и более изменчивыми.
Также, по этим исследования, применение автоматизированных меток может на 40% усиливать предвзятость в модели, скрывая реальное качество её работы, что — результатом так называемого "предвзятого правила" измерения. Это означает, что, используя предвзятые метки для оценки, мы можем не заметить истинные проблемы с качеством модели.
Выводы для разработчиков
Для IT-специалистов в сфере медицины это исследование подчеркивает необходимость создания "чистых" и беспристрастных меток для оценки и обучения AI-моделей. Необходимость высококачественной разметки этих становится более критичной, чтобы избежать искажений в выводах и повысить эффективность диагностики.
Следующий шаг — внедрение методик, способствующих улучшению качества меток и выявлению предвзятости в обучении AI, что не только повысит точность, но и создаст более надежные инструменты для медицины.