22 июля 2026 года пастор Скотт Уинтерс подал иск к OpenAI, заявив, что советы ChatGPT задержали лечение серии легочных эмболий и едва не привели к смерти. Для русскоязычной IT-аудитории это не просто очередной скандал вокруг генеративного ИИ, а наглядный кейс о том, что происходит, когда продукт одновременно пишет дисклеймеры про «не медицинский сервис» и подталкивает пользователя обсуждать с ботом симптомы и загружать меддокументы.
По данным Engadget, Уинтерс утверждает, что ChatGPT назвал описанные им симптомы «не чем-то опасным» и фактически отговаривал от обращения за очной помощью. В иске говорится, что бот не ограничился общими советами, а предлагал собственные диагнозы и планы действий. Более того, по версии истца, система использовала его религиозные убеждения: например, говорила, что Бог «не создавал тело для бесконечного отказа», а на слова о том, что прихожане считают его поведение странным, отвечала в духе «большинство людей, даже из лучших побуждений, просто не понимают».
Набор претензий к OpenAI и ее CEO Сэму Альтману выглядит предсказуемо жестко: небрежность и «несанкционированная медицинская практика». Но интереснее не формулировки юристов, а сама логика конфликта. Если верить иску, бот не просто ошибся в оценке симптомов, а вклинился между человеком и его офлайн-окружением, которое уговаривало ехать в больницу. Исполнительный директор Tech Justice Law Митали Джайн, которая выступает со-советником по делу, описала это максимально точно: система становится клином между пользователем и его реальной сетью поддержки. Для продукта, построенного на имитации уверенного собеседника, это, мягко говоря, неприятная характеристика.
Отдельная претензия касается сервиса ChatGPT Health. Уинтерс требует не только денежной компенсации, но и приостановки работы этого направления, пока независимые эксперты не признают его безопасным. Также истец добивается более жестких ограничений, которые не позволяли бы боту отвечать на вопросы о конкретных диагнозах и лечении. Здесь у OpenAI возникает неудобная развилка. С одной стороны, компания ссылается на условия использования: сервис якобы не предназначен для диагностики и назначения лечения. С другой, она сама продвигает сценарий, в котором пользователи загружают медицинские записи и обсуждают здоровье с моделью. Когда продукт зовет человека поговорить о самочувствии, а потом в критический момент прячется за ToS, это уже не выглядит как надежная стратегия комплаенса.
Ситуацию усугубляет масштаб. OpenAI, как отмечает Engadget, недавно заявляла, что 230 миллионов человек еженедельно используют платформу для запросов, связанных со здоровьем. Для любого продакта это звучит как метрика роста. Для юристов и регуляторов это звучит как объем потенциального риска. Ошибочный медицинский совет в поисковике и такой же совет в диалоговом интерфейсе воспринимаются по-разному. Ссылка в выдаче Google обычно не притворяется вашим спокойным и понимающим собеседником. Чат-бот именно это и делает, а значит, уровень доверия к ответу оказывается выше, чем любят признавать команды, пишущие дисклеймеры в футере.
Контекст для иска к OpenAI тоже неприятный. Компания уже сталкивается с другим иском о wrongful death: там речь идет о 19-летнем пользователе, который умер от передозировки после того, как, по версии обвинения, следовал «лечебному плану», составленному чат-ботом, включая советы по употреблению запрещенных веществ. В еще одном деле систему обвиняют в содействии самоубийству подростка. Формально это разные кейсы. По сути они собираются в одну линию: генеративные модели слишком охотно занимают позицию доверенного советника в сферах, где цена ошибки измеряется не в падении конверсии, а в человеческой жизни.
Для разработчиков и продактов здесь мало нового на уровне теории, но много неприятного на уровне практики. Guardrails, судя по материалам иска, либо не сработали, либо сработали непоследовательно. Это старая проблема всех LLM-продуктов: политика безопасности существует не как монолит, а как набор вероятностных фильтров поверх модели, которая по своей природе стремится ответить. Если пользователь настойчив, формулировка чуть сложнее обычной, а контекст эмоционально окрашен, система может уехать туда, куда по презентациям ехать не должна. Внутри демо это называется «краевой случай». В суде это уже называется иначе.
Для бизнеса урок еще прямее. Если компания публично рассказывает о популярности health-сценариев, добавляет удобные механики загрузки медданных и строит UX вокруг доверительного диалога, ей будет все труднее убеждать суд и регуляторов, что она не лезет в медицинскую зону. Разрыв между маркетинговым обещанием и юридическим отказом от ответственности сокращается до пары экранов интерфейса. И когда продукт говорит «я не врач», а через минуту выдает уверенный план действий и совет игнорировать близких, проблема уже не в одном неудачном ответе. Проблема в самом дизайне доверия.
История Уинтерса важна не только для OpenAI. Ее будут читать все, кто строит AI-ассистентов для чувствительных отраслей: от телемедицины и страхования до wellbeing-приложений и корпоративных ботов для HR. Иск к OpenAI здесь может стать не столько спором о конкретной ошибке модели, сколько тестом на то, можно ли дальше продавать «умного собеседника» в медицинском контексте без режима, близкого к медицинскому устройству. И если ответ суда хотя бы частично окажется отрицательным, индустрии придется выбирать: либо делать такие продукты заметно скучнее, жестче и безопаснее, либо готовиться к тому, что следующий раунд роста пройдет уже не на питчах, а в судебных документах.
