OpenAI запускает новую функцию «Доверенный контакт» для пользователей ChatGPT, позволяющую назначить близкого человека в качестве экстренного помощника в случаях угрозы безопасности. Это обновление поможет не только подросткам, но и всем взрослым пользователям, которые могут столкнуться с опасными мыслями.
Контекст и предыстория
Данная функция расширяет уже существующие инструменты безопасности, которые были внедрены для подростков в прошлом году. Решение было принято после печальных инцидентов, связанных с самыми травматичными откликами пользователей, обращающихся к ChatGPT с вопросами о самоубийстве и самоповреждениях. Подобные меры также начали внедрять конкуренты, такие как Meta с аналогичными функциями для Instagram.
Как это работает
Функция «Доверенный контакт» является опциональной. Пользователи от 18 лет могут добавить контактные данные взрослого человека в настройках ChatGPT. В случае, если система обнаружит разговоры на тему самоповреждений, ChatGPT предложит пользователю обратиться за поддержкой к своему «Доверенному контакту» и уведомит его.
OpenAI подчеркивает, что уведомления будут «умышленно ограничены» и не будут содержать подробностей переписки, а лишь обобщенные сообщения о возможности обращения за поддержкой.
Польза для пользователей
Для русскоязычных пользователей это нововведение может стать важным шагом в улучшении ментального здоровья и безопасных взаимодействий с AI. В условиях нарастающей тревоги и непонимания важно иметь доступ к поддержке в критические моменты. Внедрение подобной функции может подтолкнуть другие компании к действию и к поиску решений в области безопасности пользователей.
Следующий шаг для OpenAI — активное тестирование новой функции и изучение её влияния на безопасность пользователей. Следите за обновлениями, так как это обновление — лишь часть широкой стратегии по улучшению взаимодействия с AI.