Anthropic начал внедрять проверку удостоверений личности для пользователей своего AI-агента Claude. Это важно, поскольку подобное нововведение вносит коррективы в подход к безопасности платформы и может повлиять на отношения с клиентами.
Что стоит за новшеством
На днях компания добавила на свою страницу поддержки пункт о проверке личности, отметив, что она будет реализована на случайной основе для некоторых функций. «Проверка идентичности помогает предотвратить злоупотребления и соблюсти юридические обязательства», - заявили в Anthropic.
Процесс проверки осуществляется через сервис Persona, который ранее уже стал объектом внимания из-за проблем с безопасностью. В частности, на него жаловались пользователи Discord, когда платформа пыталась ввести аналогичную систему. В результате, многие пользователи начали выражать недовольство, угрожая отменить подписки, как только узнали о новых мерах.
Тонкости работы с Persona
Anthropic утверждает, что не будет использовать данные удостоверения личности для тренировки своих моделей. Компания собирается ограничивать сбор наименьшим возможным объемом информации для верификации пользователей. Тем не менее, произошло множество обсуждений в Reddit о том, как надежно Persona обрабатывает данные, так как она имеет в своей экосистеме много субподрядчиков, как AWS и Google, что вызывает дополнительные опасения по поводу утечек.
На страничке поддержки упоминается, что Persona собирает селфи и изображения удостоверений личности для верификации, а Anthropic контролирует процесс их обращения и хранения.
Почему это важно для пользователей
Проверка идентичности может повлиять на пользователей Claude, по сути, создавая дополнительный барьер для тех, кто просто хочет получить доступ к функционалу AI. Если вы разрабатываете приложения или проекты с использованием Claude, необходимо учитывать возможность проверки личности как часть процесса работы. Меры по повышению безопасности могут нести как плюсы, так и минусы для конечных пользователей.
Следующий шаг для Anthropic — продолжение трансляции новых функций, которые могут быть скорректированы с учетом собранной информации об идентичности пользователей. Важно наблюдать, как это отразится на популярности сервиса и откликах сообщества.