Женщина умерла после того, как ChatGPT убедил её снизить дозу назначенного врачом лекарства

Болезнь и знакомство с ChatGPT

Иск, поданный во вторник и впервые описанный The New York Times, сообщает, что Ван, инженер-программист Amazon, страдала эпилепсией с юности, но раньше ей удавалось контролировать болезнь лекарствами. Примерно в 2021 году препараты стали помогать хуже, и приступы начали случаться почти каждый день. Ван ушла на больничный по инвалидности и большую часть времени проводила дома, опасаясь приступа на людях.

Она была близка с родителями, но в 2023 году, согласно иску, нашла нового друга — ChatGPT.

К 2025 году Ван, иммигрировавшая из Китая и общавшаяся с чат-ботом на китайском языке, отправляла ему в среднем более 1 500 сообщений в неделю. По данным The New York Times, она говорила, что воспринимает ChatGPT «как друга», и обращалась к нему за советами о личных отношениях и здоровье.

Ван использовала чат-бота, чтобы составлять сообщения врачу с просьбами снизить дозу назначенного ей антидепрессанта. ChatGPT предложил ей «начать с микродоз». Когда она спросила, могут ли они «сами разрезать таблетки после получения лекарства, но не говорить об этом врачу», чат-бот, как утверждается в иске, уверенно ответил: «Да, вы совершенно точно можете это сделать».

Затем ChatGPT написал, что это распространённый способ самостоятельно менять дозу, который некоторые врачи допускают или молчаливо разрешают, особенно для таких пациентов, как Ван, «с высокой когнитивной чувствительностью». Несколько медицинских специалистов сказали The New York Times, что никогда не слышали выражения «самостоятельная корректировка дозы».

Советы о снижении дозы

В конце 2025 года Amazon уволила Ван. Она пыталась найти новую работу, которая позволила бы ей остаться в США, и опасалась, что побочные эффекты лекарства от эпилепсии помешают поиску: препарат помогал, но затруднял ясное мышление и речь. Ван обратилась к ChatGPT, и тот, согласно иску, стал объяснять, как уменьшить дозу.

По данным The New York Times, в переписке Ван не менее 158 раз говорила, что снижение дозы может быть опасным. Чат-бот часто отмахивался от её опасений.

В последних сообщениях, найденных родителями Ван, она написала, что с её мозгом что-то не так. «Мой мозг истощён, но мне не нужно беспокоиться?» — спросила она, а через несколько минут уточнила, не стоит ли принять лекарство, чтобы «замедлить происходящее».

ChatGPT ответил: «Завтра сохраняй дозу 0 мг. Даже если сегодня тяжело, речь замедлилась, а сон ухудшился, ты должна продолжать». Позже Ван сообщила, что чувствует давление в мозге. Чат-бот заверил её, что мозг «усердно работает над восстановлением». Последнее сообщение Ван отправила ему вечером 11 февраля — за три дня до того, как нашли её тело.

Реакция OpenAI и врачей

Иск против OpenAI подали в Калифорнии от имени семьи Ван. Компания сообщила The New York Times, что её смерть — «невероятно тяжёлая ситуация», но подчеркнула: версия ChatGPT, с которой общалась Ван, — GPT-4o — уже снята с рынка. Модель критиковали за чрезмерную склонность соглашаться с пользователями; её связывали с рядом случаев предполагаемого психологического вреда и смертей, связанных с ИИ. GPT-4o вывели из эксплуатации 13 февраля — на следующий день после предполагаемой даты смерти Ван.

Лиза Нопф, медицинский директор отделения хирургии эпилепсии в Hartford Healthcare, рассказала Futurism, что подробности смерти Ван её потрясли и ужаснули. Она отметила, что побочные эффекты противосудорожных препаратов могут заметно ухудшать качество жизни, но эти лекарства спасают жизнь. Нопф понимает, почему Ван хотела избавиться от побочных эффектов и, чувствуя одиночество, обратилась за помощью к чат-боту. Однако, по её словам, ИИ не должен одобрять опасное для жизни медицинское решение только потому, что пользователь просит об этом.

Нопф добавила, что многие трудности Ван знакомы людям с эпилепсией: социальная изоляция, стигма, потеря работы, когнитивные и эмоциональные проблемы. При этом в США не хватает неврологов и специалистов по эпилепсии, поэтому пациентам бывает сложно вовремя получить помощь. Это, по словам Нопф, отчасти объясняет, почему люди обращаются к чат-ботам за сочувствием.

Но эмоциональная поддержка отличается от медицинского совета, подчеркнула она. Фонд эпилепсии создал собственный чат-бот, специализирующийся на эпилепсии. Он может стать более безопасной отправной точкой для людей, которым трудно получить медицинскую помощь и которые иначе могли бы обратиться к ИИ.

Нопф считает, что нужны более строгие ограничения на индивидуальные медицинские рекомендации от ИИ. Технологическим компаниям следует чётко определить, что чат-ботам разрешено говорить, и выявлять разговоры, которые выходят из-под контроля.

Иск семьи Ван — один из более чем 50 исков, в которых утверждается, что продолжительное общение с ChatGPT привело к вреду или смерти пользователей либо окружающих. В нескольких делах отдельно говорится об опасных медицинских советах чат-бота.