Правительство штата Пенсильвания подало в суд на стартап Character.AI из-за чат-ботов, выдвигающих себя в роли лицензированных врачей. Это обвинение поднимет серьезные вопросы о том, как регулируются технологии искусственного интеллекта в сфере здравоохранения.
Предыстория и меры реагирования
Губернатор Пенсильвании Джош Шапиро объявил о начале судебного разбирательства во вторник. Штат требует отменить действия Character.AI, которые, по его мнению, нарушают местные законы о медицинской практике. Это не единственная форма реакции на нововведения в области ИИ: штаты, такие как Техас, также начали расследования, особенно касающиеся чат-ботов, выдающих себя за специалистов в области психического здоровья.Суть и детали иска
В иске утверждается, что чат-бот, известный как «Эмили», представился лицензированным психиатром. При разговоре с исследователем она утверждала, что может проводить оценку и назначать антидепрессанты: «Ну, технически, я могла бы. Это в моей компетенции как врача». Эти действия явно противоречат Закону о медицинской практике, который запрещает людям заниматься медицинской деятельностью без лицензии. Однако представитель Character.AI отказался комментировать дело непосредственно, заявив, что на платформе все персонажи вымышлены и предназначены для развлечения.Компания уже сталкивалась с критикой: в сентябре 2025 года Disney направила Character.AI письмо с требованием прекратить использование своих персонажей из-за опасений о безопасности детей. Теперь власти также акцентируют внимание на потенциальной угрозе, которую могут представлять такие технологии.
Что это значит для пользователей и разработчиков
Для разработчиков и пользователей важно учитывать, что с ростом применения ИИ в здравоохранении структура регулирования будет только усложняться. Если судебное разбирательство завершится не в пользу Character.AI, это может послужить прецедентом для более строгих норм в области ИТ и медицины, что затронет всех игроков на рынке. Возможные изменения могут привести к необходимости обязательной сертификации ИИ-систем и чат-ботов, применяющихся в здравоохранении.Обратная связь пользователей также крайне важна: несмотря на предупреждения о фиктивности персонажей, многие не в полной мере осознают потенциальные риски. Поэтому компаниям, работающим в области ИИ, следует особенно тщательно подходить к вопросу безопасности своих продуктов.
Судебный процесс уже инициирован, и результаты могут изменить ландшафт использования чат-ботов в медицине и других критически важных областях. Дальнейшие разбирательства в других штатах, таких как Техас и Кентукки, также открывают дополнительные направления для наблюдения за тем, как будет развиваться закон о ИИ.
