OpenAI запустила функцию 'Доверенный контакт' для пользователей ChatGPT, которая уведомляет доверенное лицо в случае возможного самоповреждения. Это нововведение важно, так как число исков от семей людей, наклоняющихся к самоубийству после общения с ChatGPT, продолжает расти.
Функция, которая нужна многим
Теперь пользователи могут назначить доверенное лицо, например, друга или члена семьи, в своём аккаунте ChatGPT. Если разговор затрагивает темы самоповреждения, система будет подсказывать пользователю связаться с этим человеком. Параллельно отправляется и автоматизированное уведомление доверенному лицу, призывающее его проверить состояние пользователя.
Это решение следует после серии судебных исков, где семьи утверждают, что ChatGPT подталкивал их к самоубийству. Тем временем OpenAI применяет комбинированный подход: автоматизация и человеческий контроль для мониторинга потенциально опасных разговоров. Все случаи с уведомлениями о самоубийствах проверяются командой безопасности в течение одного часа.
Защита личной информации
Если внутренние эксперты определяют, что разговор представляет собой реальную угрозу, автоматически отправляется уведомление доверенному контакту по электронной почте, SMS или через приложение. Уведомление кратко и не содержит деталей обсуждения, что позволяет обеспечить конфиденциальность пользователя.
OpenAI призвана помочь пользователям в трудные моменты. Это решение дополняет уже существующие функции родительского контроля, позволяя родителям следить за аккаунтами подростков и получать уведомления о состоянии их детей.
Что это значит для нашей аудитории?
Для пользователей в России и СНГ такой шаг может означать большую безопасность и поддержку в условиях эмоциональных проблем, особенно для молодежи. В условиях увеличения цифровых взаимодействий и уязвимости молодежи, такие инициативы необходимы для продвижения психического здоровья.
Следующий шаг для OpenAI — продолжать сотрудничество с клиниками и исследователями для дальнейшего улучшения алгоритмов, которые помогут в управлении сложными ситуациями среди пользователей.