Alconost представила аннотированный набор данных
Alconost выпустила открытый доступ к аннотированному набору данных для оценки качества машинного перевода. Этот набор обеспечивает высокую надежность благодаря профессиональным аннотациям, в отличие от большинства аналогичных тестовых наборов, составленных методом краудсорсинга.
Состав и методология набора данных
Набор включает 362 сегмента перевода на 16 языках, выполненных 48 специалистами. Аннотация MQM (Multidimensional Quality Metrics) позволяет точно оценивать ошибки, их серьезность и содержание. Коэффициент согласованности между аннотаторами (Kendall's τ) составил 0,317, что в 2,6 раза выше, чем у типичных WMT-кампаний. Это подтверждает эффективность системного обучения аннотаторов.
Набор данных станет полезным ресурсом для разработчиков и исследователей, помогая в создании более качественных систем машинного перевода и способствуя развитию технологий.
Alconost планирует расширять свои инициативы в области открытых данных и инструментов для улучшения машинного перевода.