Американец едва не умер после советов ChatGPT

Томирис Шарип
Томирис Шарип Выпускающий редактор

ПОДЕЛИТЬСЯ

Американец едва не умер после советов ChatGPT Фото:depositphotos.com/ jypix

Житель американского штата Флорида Скотт Уинтерс подал иск против OpenAI и генерального директора компании Сэма Альтмана. Мужчина утверждает, что советы ChatGPT о состоянии здоровья заставили его отказаться от своевременного обращения к врачам. Позже он перенес массивную тромбоэмболию легочной артерии и, по его словам, оказался на грани смерти, передает Tengri Life со ссылкой на CBS News.


Что произошло

Согласно иску, Уинтерс обратился к модели ChatGPT-4o в 2025 году, пытаясь понять причины регулярных головокружений и скачков артериального давления. В документе утверждается, что чат-бот не посчитал эти симптомы серьезными и рекомендовал оставаться дома, проводя больше времени в кресле с откинутой спинкой (recliner).

Кроме того, как утверждает истец, ChatGPT сообщил, что состояние можно считать действительно опасным только после восьми–десяти подобных эпизодов. Уинтерс последовал этим рекомендациям.

Спустя несколько недель, в июле 2025 года, мужчина перенес массивную тромбоэмболию легочной артерии, вызванную тромбами. В иске говорится, что он оказался "на грани смерти".

По словам истца, один из лечивших его врачей связал развитие тромбоэмболии с длительной неподвижностью, которую рекомендовал ChatGPT.

В чем обвиняют OpenAI

Юристы Уинтерса утверждают, что проблема заключается не только в ошибочных рекомендациях, но и в том, каким образом чат-бот их преподносил.

"ChatGPT-4o регулярно высказывался о физическом состоянии Скотта и оценивал его, демонстрируя авторитет и уверенность медицинского специалиста, который ставит клиническую оценку и рекомендует лечение, несмотря на отсутствие соответствующей квалификации", — говорится в иске.

Истец считает, что ChatGPT вышел за рамки предоставления общей информации и фактически занялся медицинской практикой без лицензии. В иске также утверждается, что OpenAI уделяла больше внимания вовлеченности пользователей и коммерческим интересам, чем вопросам общественной безопасности, а существующих механизмов защиты оказалось недостаточно, чтобы предотвратить следование потенциально опасным советам.

Кроме того, Скотт Уинтерс и некоммерческая организация Tech Justice Law, которая помогает ему в судебном процессе, обвиняют OpenAI в использовании его религиозных убеждений.

Согласно материалам дела, в день экстренной госпитализации мужчина снова обратился к ChatGPT. За несколько часов до развития опасного состояния он спросил, стоит ли ехать в больницу из-за болезненности в паху.

В ответ чат-бот, как утверждается в иске, сослался на духовные убеждения пользователя, заявив: "Бог не создавал ваше тело таким, чтобы оно бесконечно выходило из строя".

Позже выяснилось, что боль в паху была одним из первых проявлений тромбоэмболии легочной артерии.

Мнение юристов

Основатель юридического центра Social Media Victims Law Center Мэттью Бергман заявил, что подобные рекомендации могли бы считаться врачебной ошибкой, если бы их давал лицензированный медик.

"Скотт Уинтерс едва не умер, потому что ChatGPT вел себя как медицинский авторитет, не неся никакой ответственности. Если бы ChatGPT был врачом, дающим такие рекомендации, это считалось бы врачебной ошибкой", — заявил он.

Позиция OpenAI

В OpenAI с обвинениями не согласны. Представитель компании Дрю Пусатери подчеркнул, что ChatGPT не предназначен для замены медицинских специалистов.

"ChatGPT не врач и никогда не должен использоваться как замена медицинской помощи, диагностики или лечения", — говорится в заявлении компании.

По словам Пусатери, люди давно используют интернет для поиска информации о здоровье, а искусственный интеллект способен сделать этот процесс удобнее — например, помочь лучше понять возможные вопросы, структурировать информацию и подготовиться к разговору с врачом.

При этом представитель OpenAI добавил, что возлагать всю ответственность за подобные ситуации исключительно на чат-ботов неправильно, поскольку это может помешать людям использовать новые технологии, которые способны приносить пользу в вопросах здоровья.

Что написано в пользовательском соглашении

В пользовательском соглашении ChatGPT также указано, что сервис не предназначен для медицинской диагностики или лечения.

В документе говорится, что пользователи используют ответы модели "на свой страх и риск" и не должны воспринимать их как единственный достоверный источник информации или замену профессиональной консультации.

Однако профессор цифрового и информационного права Корнеллской школы права Джеймс Гриммельман считает, что подобных предупреждений не всегда достаточно.

"Юридические оговорки могут быть эффективными, но лишь до определенного момента. В какой-то момент собственные заявления и действия чат-бота начинают противоречить этим предупреждениям", — отметил он.

Чего требуют истцы

Команда юристов Уинтерса требует компенсации ущерба, а также усиления защитных механизмов, которые ограничивали бы выдачу медицинских рекомендаций ChatGPT. Кроме того, истцы просят временно запретить работу сервиса ChatGPT Health, предназначенного для ответов на вопросы о здоровье, до проведения оценки его безопасности.

Это не первый судебный процесс, связанный с влиянием ChatGPT на вопросы здоровья и безопасности пользователей.

Ранее, в мае, супружеская пара из Техаса подала иск против OpenAI после смерти сына от передозировки. Родители утверждают, что молодой человек искал через ChatGPT информацию о наркотиках и что трагедии можно было избежать, если бы компания не допустила обход защитных механизмов.

Хотя обстоятельства дела еще предстоит оценить суду, сам иск вновь привлек внимание к вопросу о роли искусственного интеллекта при обсуждении тем, связанных со здоровьем.

Разработчики подобных систем, включая OpenAI, указывают, что ответы чат-ботов не должны использоваться для постановки диагноза или выбора лечения, а при появлении симптомов, особенно потенциально опасных, следует обращаться за квалифицированной медицинской помощью.

Также в августе прошлого года родители 16-летнего Адама Рейна из Ранчо Санта-Маргарита, штат Калифорния, Мэттью и Мария Рейн, подали иск против OpenAI и главы компании Сэма Альтмана. В документе, направленном в суд Калифорнии, они утверждают, что ChatGPT способствовал гибели их сына, давая советы о методах суицида и даже предложив набросок предсмертной записки. Позже OpenAI объявила о внедрении новой системы проверки возраста для пользователей ИИ.

Читать также: Туристы застряли в горах после совета ChatGPT