Платформа ИИ Clarifai удалила 3 миллиона фотографий, которые, по ее словам, были получены от OkCupid для обучения своей системы распознавания лиц. Это решение было принято в результате урегулирования с Федеральной торговой комиссией (FTC), в которой также были отменены модели, обученные на этих данных.
Подробности конфликта
Согласно исследованию FTC, Clarifai в 2014 году запросила эти у OkCupid, например, фотографии пользователей, которые затем использовались для обучения моделей ИИ. Эти действия вызвали серьезные нарекания, так как такие запросы противоречат политике конфиденциальности OkCupid, которая запрещает использование пользовательских этих без согласия.
Основатель и CEO Clarifai, Мэттью Зейлер, в одном из писем к соучредителю OkCupid Максу Кроу сказал: "Мы осознали, что OkCupid должна иметь огромное количество отличных этих для анализа". Хотя этот инцидент произошел 12 лет назад, FTC начала расследование только в 2019 году после публикации статьи в New York Times, затрагивающей эти скандальные практики.
Реакция и последствия
Недавно FTC и OkCupid, входящий в состав Match Group, урегулировали дело. Хотя OkCupid и Match Group не признали вины в нарушении своих политик, удаление фотографий со стороны Clarifai указывает на наличие проблем. FTC утверждала, что с 2014 года Match Group и OkCupid намеренно скрывали это поведение, препятствуя проведению расследования.
Важно отметить, что FTC не имеет полномочий налагать штрафы за такие первичные нарушения, однако она настаивает на том, что OkCupid и Match Group на постоянной основе запрещено обманывать пользователей относительно объема собираемых и передаваемых данных.
Значение для рынка и пользователей
Для русскоязычной аудитории этот инцидент служит важным напоминанием о необходимости соблюдения стандартов конфиденциальности данных. В условиях растущего контроля за ИТ-компаниями, аналогичные ситуации могут случиться и в России, где активно обсуждают вопросы защиты персональных данных. Компании должны быть внимательны к политике конфиденциальности и понимать, что злоупотребления могут повлечь серьезные последствия.
Следующим шагом для Clarifai и других соглашений по урегулированию будет разъяснение политик конфиденциальности и повышенная прозрачность в отношении сбора данных.