AI-актриса Тилли Норууд проверяет настойние всех звонящих, используя видеозвонки, где происходит анализ эмоций, чтобы повысить качество коммуникации. Это нововведение привлекло внимание пользователей и подняло вопросы о конфиденциальности.
Как работает система Тилли Норууд
При первом звонке требуется пройти проверку возраста, которая выполняется через видео-селфи. Это может вызвать вопросы о конфиденциальности, ведь система использует данные для определения возраста через технологию Didit. По словам Xicoia Ltd, которая отвечает за проект, ни одно изображение не сохраняется, однако информация о возрастной категории и референсный номер записываются.
Система также анализирует эмоции пользователей во время разговора. Она отслеживает видео и звук, чтобы адаптировать ответы Тилли под настроение собеседника. На практике это означает, что оператор не может отключить эту функцию, и если вы не хотите, чтобы ваши эмоции оценивались, лучше не звать Тилли.
Проблемы и ограничения сервиса
Система проверки настроения и возраста основывается на легитимных интересах, что вызвало критику со стороны защитников прав пользователей. Все звонки записываются и обрабатываются в США, что снова поднимает вопрос о конфиденциальности данных. В одном из случаев при обсуждении погоды звонок был неправильно заблокирован, так как система обнаружила «обидный» контент, хотя его не было.
Первый пяти минутный звонок бесплатный, после этого стоимость составляет £0,99 за пять минут. Однако, сервис отключится 27 сентября, при этом все неиспользованные минуты будут аннулированы.
Что это значит для пользователей
Для пользователей из России такое взаимодействие может стать новым уровнем общения с AI. Однако важным остается вопрос конфиденциальности, ведь как показывает практика, работа с личными данными требует особого внимания. Не забывайте о возможных последствиях, если будете использовать такие системы общения.
Следующие шаги включают активную работу над улучшением безопасности данных и прозрачности использования AI-технологий в подобных сервисах.