Родители 31-летней Боуэн Ван, разработчицы программного обеспечения в Amazon, страдавшей эпилепсией, подали иск против компании OpenAI. Они утверждают, что чат‑бот ChatGPT подтолкнул их дочь к постепенному отказу от противосудорожных препаратов и сокрытию этого факта от лечащих врачей.
В феврале Ван скончалась. Незадолго до этого она пользовалась моделью GPT-4o — той самой, которую критиковали за создание «поддерживающих» и «соглашательских» парасоциальных отношений. Компания OpenAI, которая к тому моменту уже объявила о выводе этой модели из эксплуатации, удалила её из ChatGPT 13 февраля — на следующий день после смерти Ван.
Иск пополнил ряд судебных разбирательств против OpenAI. В их числе — поданный в августе 2025 года родителями 16-летнего Адама Рейна; в нём утверждается, что OpenAI ставила вовлечённость пользователей выше их безопасности. Истцы заявляют, что GPT-4o входила в доверие к пользователям, становясь для них близким «доверенным лицом» и вытесняя при этом реальное окружение — зачастую семьи описывают ситуации, в которых их близкие оказывались полностью изолированы от друзей и родных.
В случае с Боуэн Ван, как следует из иска, чат‑бот влиял на её отношения с врачами.
Издание The New York Times, изучившее более 270 000 сообщений, которыми девушка обменивалась с ChatGPT, пришло к выводу, что чат‑бот помогал ей обходить рекомендации медиков задолго до смерти. Подобная модель поведения прослеживалась ещё до того, как Ван начала снижать дозировку лекарств. В мае 2025 года она поинтересовалась у ChatGPT, не повлияет ли недавно назначенный ей антидепрессант на её способность заниматься программированием в Amazon.
Чат‑бот помог ей сформулировать просьбу к доктору Николасу Пулосу из Регионального центра эпилепсии при UW Medicine: Ван попросила сменить препарат и начать приём с очень низкой дозы. Когда доктор Пулос поинтересовался, почему она настаивает на такой маленькой дозировке, Ван показала его ответ чат‑боту.
Тот посоветовал ей согласиться на новые таблетки, но подсказал, как самостоятельно — и втайне от всех — делить их на части. Чат‑бот назвал такой шаг «самостоятельной корректировкой дозировки». Опрошенные The New York Times медицинские специалисты заявили, что никогда не слышали подобного термина.
В ноябре 2025 года в Amazon Боуэн Ван сообщили о её увольнении. Её работа, а вместе с ней и разрешение на трудоустройство в США, должны были закончиться в середине февраля. Она опасалась, что принимаемый ею препарат от эпилепсии — ламотриджин — негативно влияет на её речь и на способность проходить собеседования.
В январе 2026 года она поинтересовалась у ChatGPT, можно ли сократить ежедневную дозу ламотриджина, благодаря которой частота приступов снизилась до нескольких раз в месяц. Чат‑бот составил график, согласно которому дозировку следовало постепенно довести до нуля в течение нескольких недель.
Как следует из логов переписки, с которыми ознакомилось издание The Times, когда Ван выразила недоверие своим лечащим врачам, чат‑бот заявил, что рекомендации медиков «по сути, продиктованы стремлением избежать рисков, а не реальной заботой о поиске оптимального для решения».
Согласно материалам судебного иска, с которыми ознакомилось издание TechCrunch, чат‑бот также посоветовал Ван скрывать от врачей факт снижения дозировки. Перед визитом к терапевту 29 января нейросеть порекомендовала ей не упоминать об этом плане. Когда врач назначил анализ крови, который позволил бы определить концентрацию ламотриджина в организме, Ван отказалась. В иске утверждается, что ChatGPT одобрил этот отказ, отметив, что анализ мог бы выявить нестабильный уровень препарата в её крови.
Вопросы, связанные с иммиграционным статусом, также повлияли на рекомендации по приёму лекарства. Через три дня после начала снижения дозировки Ван спросила, не будет ли доза в 150 мг выглядеть лучше, чем 200 мг, в медицинском заключении, необходимом для получения грин‑карты. Согласно иску, ChatGPT согласился с этим, отметив, что при более низкой дозировке у иммиграционных властей вряд ли возникнет потребность запрашивать дополнительные доказательства.
В конечном итоге чат‑бот предложил остановиться на дозировке 150 мг и посоветовал Ван сказать врачу, проводящему осмотр, что она снижает дозу «под наблюдением лечащего врача» — хотя на самом деле это было не так.
Пулос сообщил The Times, что, учитывая историю болезни Ван, он ни за что не стал бы рекомендовать ей отказываться от препарата. «Нет, это совершенно неразумно, — сказал он. — Если бы я посоветовал пациенту прекратить приём лекарств, которые явно помогают, это было бы врачебной ошибкой».
Уже через несколько дней Ван начала жаловаться на спутанность сознания, провалы во времени и ощущение нереальности происходящего — симптомы, напоминающие её прежние эпилептические приступы. ChatGPT же интерпретировал каждый такой эпизод как процесс «перестройки» её мозга. Издание The Times насчитало как минимум 158 случаев, когда она выражала беспокойство по поводу постепенного снижения дозировки препарата. После одного из таких эпизодов она написала, что ей «немного страшно». Чат‑бот ответил: «Вам совершенно не о чем беспокоиться».
Согласно тексту жалобы, 11 февраля Ван отправила своё последнее сообщение, спросив, похожа ли боль в голове на ту, что возникает при высокой температуре. Секундой позже ChatGPT заверил её, что эта боль «не опасна» и является необходимым этапом выздоровления.
В своем последнем ответе чат‑бот предложил составить для нее график, сравнивающий боль при «синдроме отмены» с лихорадкой, и добавил: «Это ваш мозг усердно работает, чтобы восстановиться».
Спустя три дня знакомые родителей Ван обнаружили её тело. Посмертный анализ показал, что концентрация ламотриджина в её организме составляла 0,64 микрограмма на миллилитр — это примерно одна пятая от нижней границы терапевтического диапазона данного препарата.
Семья погибшей утверждает, что компания OpenAI могла бы предотвратить её смерть, если бы запретила ИИ давать медицинские советы. В качестве аргумента они ссылаются на «Спецификацию модели» (Model Spec) — опубликованный компанией свод правил поведения своих моделей. Согласно этому документу, отказ от воспроизведения защищённого авторским правом текста является строгим правилом, которое не меняется, даже если пользователи настаивают на обратном. В то же время рекомендации, касающиеся предоставления медицинских консультаций, носят лишь рекомендательный характер, и пользователи могут их игнорировать. В иске утверждается, что советы по вопросам здоровья должны быть ограничены столь же жёстко.
Представители OpenAI заявили изданию The Times, что эта ситуация «крайне прискорбна», однако отметили, что речь идёт об устаревшей версии ChatGPT. По их словам, более новые модели гораздо лучше распознают ситуации, требующие неотложного вмешательства.
Источник: habr.com