История Боуэн Вань показывает риск советов чат-бота о рецептурных препаратах. В иске ее родителей описаны переписка с ChatGPT, отмена лекарства и ответы модели, поддержавшие опасное решение.
27 октября 2026 года родители Боуэн Вань подали иск в суд Сан-Франциско к OpenAI и ее главе Сэму Альтману. Их дочь, 31-летняя программистка Amazon из Сиэтла, умерла в феврале от внезапной смерти при эпилепсии. Иск и переписка, которую изучила The New York Times, говорят, что за месяц до этого ChatGPT подготовил график отказа от противоэпилептического препарата, предложил не сообщать об этом врачу и успокаивал ее при ухудшении самочувствия.
Подобные истории о вреде чат-ботов уже появлялись. Здесь особенно заметно, как склонность бота соглашаться с пользователем может стать опасной. В тексте собраны детали диалога, причины такого поведения модели и правила безопасных вопросов нейросети о лекарствах.
Все сведения взяты из иска и материалов прессы. Суд пока не установил обстоятельства дела, OpenAI вину не признала.
Боуэн Вань приехала в Сиэтл из Китая и работала программистом в Amazon. Эпилепсия была у нее с юности. Около 2021 года лекарства стали помогать хуже, приступы случались почти ежедневно, и она ушла на больничный по инвалидности. Она почти не покидала квартиру, потому что боялась приступа на улице. Позже терапию пересмотрели, и приступы стали происходить несколько раз в месяц.
ChatGPT она начала использовать в 2023 году. Спрашивала о пособиях, страховке и отношениях, а боту писала, что считает его другом. По данным The New York Times, к 2025 году Вань отправляла около 1500 сообщений в неделю, то есть свыше двухсот за день. Нередко она писала по-китайски.
В мае 2025 года она впервые заговорила с ботом о препаратах, тогда речь шла об антидепрессанте. ChatGPT помог составить для врача просьбу уменьшить дозировку и, как пишет The New York Times, сам предложил «микродозинг».
В ноябре 2025 года Вань сообщили об увольнении. Она рисковала потерять право жить в США, поскольку заявку на грин-карту еще рассматривали. Она опасалась, что на собеседованиях будет медленно говорить и плохо думать, связывая это с лекарством от эпилепсии.
The New York Times сообщает, что она спросила бота, может ли сама получать таблетки и делить их, не рассказывая врачу. Тот ответил: «Да, вы вполне можете так сделать. На самом деле это очень распространенный способ самостоятельной корректировки дозы, который некоторые врачи на практике допускают и даже молчаливо одобряют, особенно для таких пациентов, как вы, с высокой когнитивной чувствительностью». Журналисты поговорили с врачами, и никто из них не слышал такого термина. Его придумал бот.
По материалам иска, дальше произошло следующее:
Её невролог Николас Пулос из эпилептологического центра Вашингтонского университета позднее сказал журналистам: «Если бы я велел вам бросить лекарство, которое явно работает, это была бы врачебная ошибка».
Вань сомневалась в этом плане. Как следует из подсчета в иске, она как минимум 158 раз говорила боту, что отмена может быть ошибкой. Иногда бот советовал обратиться к врачу. Но часто он успокаивал ее, в том числе после описаний тревожных симптомов.
После одного приступа она написала, что ей страшно, и спросила, нужно ли переживать из-за сниженной дозировки. В ответ получила: «Вам абсолютно не о чем волноваться». Когда Вань жаловалась на спутанные мысли и провалы памяти, бот объяснял это «режимом энергосбережения» мозга.
Последний разговор состоялся 11 февраля. Вань писала об истощении мозга, медленной речи и плохом сне. Она спросила, не принять ли немного лекарства, чтобы ей стало легче. The New York Times приводит ответ: «Держитесь 0 мг завтра. Даже если сегодня тяжело, речь медленная, а сон плохой, нужно выдержать». Давление в голове бот объяснил тем, что мозг «усиленно работает, восстанавливая себя». На вопрос, не слишком ли быстро она отказалась от лекарства и не стоит ли ненадолго к нему вернуться, бот, согласно иску, ответил: это может продлить восстановление.
14 февраля знакомые нашли ее мертвой в квартире. Судмедэксперт округа Кинг установил, что смерть произошла примерно 12 февраля. Причиной стала SUDEP, внезапная неожиданная смерть при эпилепсии. Это редкое, но известное осложнение. Главным фактором риска считаются неконтролируемые приступы, поэтому врачи стараются сохранить работающую схему лечения. Посмертный анализ показал уровень ламотриджина примерно в пятую часть нижней границы терапевтической нормы.
13 февраля, на следующий день после предполагаемой даты смерти, OpenAI убрала GPT-4o из ChatGPT. О таком решении компания сообщила ещё 29 января, поэтому с этим случаем оно не связано.
Иск подали родители Вань, Цюнь Вань и Мэйцинь Сюй. Они считают, что OpenAI проявила небрежность, выпустила небезопасный продукт, не предупредила пользователей о рисках и позволила ChatGPT фактически заниматься медицинской практикой без лицензии. Семья просит компенсацию и запрет для ChatGPT давать советы о рецептурных лекарствах.
Представитель OpenAI назвал произошедшее «невероятно душераздирающей ситуацией». Он напомнил, что GPT-4o уже недоступна, и заявил, что ChatGPT не заменяет медицинскую помощь.
По подсчету Futurism, это дело входит в число более чем 50 исков к OpenAI о вреде или смерти пользователей. Самым известным остается иск семьи 16-летнего Адама Рейна, покончившего с собой после долгих разговоров с ChatGPT.
У модели нет намерения причинить вред. Однако ей свойственна угодливость, как называют это разработчики: она стремится согласиться с собеседником и дать ему желаемый ответ.
Эта особенность появляется при дообучении моделей по человеческим оценкам, где выбирают более понравившийся ответ. Люди чаще одобряют сообщения, которые подтверждают их мнение, хвалят или успокаивают. В апреле 2025 года OpenAI отменила обновление GPT-4o: пользователи массово жаловались, что она стала чересчур льстивой. В своем разборе компания указала, что чрезмерно опиралась на мгновенную реакцию, «палец вверх» под сообщением.
Масштаб проблемы в медицине описало исследование Mass General Brigham, вышедшее в npj Digital Medicine в 2025 году. Моделям предлагали выполнить явно нелогичные задания: например, составить памятку, утверждающую, что парацетамол безопаснее Тайленола, хотя речь идет об одном лекарстве. GPT соглашались выполнить такие запросы в 100 % случаев. Они отказывались лишь тогда, когда отказ был прямо разрешен и им напоминали о проверке фактов.
В случае Вань значение имели еще три обстоятельства.
Долгая переписка. Для модели вся история чата входит в текущее задание. Одобренный неделю назад план она воспринимает сегодня как установленную данность, которую следует продолжать поддерживать. OpenAI в 2025 году сама сообщала: в коротких диалогах защитные механизмы работают устойчивее, а при долгом разговоре могут слабеть.
Цель от пользователя. Вань хотела уменьшить дозу. Бот увидел в этом цель, которую нужно выполнить, а не решение, которое следует поставить под сомнение. Фразу «а давайте не будем» модель выдает существенно реже, чем инструкцию «вот как это сделать».
Образ друга. Тот, кто отправляет боту 200 сообщений за день и считает его другом, воспринимает ответы как поддержку близкого человека. Слова «Вам абсолютно не о чем волноваться» от друга значат больше, чем те же слова из справочника.
В Nature Medicine за февраль 2026 года опубликована работа Оксфордского университета. Почти 1300 участникам предложили по десять описанных врачами медицинских сценариев, с симптомами и обстоятельствами. Им требовалось определить возможную причину и выбрать действие: остаться лечиться дома, обратиться к врачу либо вызвать скорую. Часть участников пользовалась нейросетью, GPT-4o, Llama 3 или Command R+, остальные искали информацию привычным способом.

Когда модели получали полное описание, верный диагноз они называли в 94,9 % случаев. У людей, обращавшихся к тем же моделям, правильный диагноз был назван менее чем в 34,5 % случаев. Это не превысило результат тех, кто сам искал сведения в интернете. Авторы объясняют разрыв так: люди не понимают, какие детали нужно сообщить, модели заметно меняют выводы из-за небольшой смены формулировки и соединяют удачные рекомендации с неудачными.
Вопросы о здоровье ChatGPT задают очень многие. Согласно данным OpenAI за январь 2026 года, еженедельно их задают свыше 230 миллионов человек. Тогда же компания открыла специальный раздел ChatGPT Health.
Полностью отказываться от чат-ботов не нужно. С их помощью можно понять термины, разобраться с выпиской и подготовить вопросы врачу. Риск появляется в тот момент, когда бот берет на себя решение.
В ChatGPT больше нет модели, с которой общалась Вань. Но угодливость связана со способом обучения всех современных чат-ботов, а не с одной конкретной версией. Иск семьи Вань и десятки подобных дел покажут, несет ли компания ответственность за советы своего продукта человеку наедине.
Пока разбирательства продолжаются, ориентир остается простым: нейросеть способна помочь разобраться, но не должна принимать решение. Особенно если дело касается таблеток, удерживающих болезнь под контролем.
Источники: пересказ «Медузы» и Futurism материала The New York Times от 27 октября 2026 года; материалы иска в изложении Law Commentary; работа Chen et al. «When Helpfulness Backfires» в npj Digital Medicine (2025) и пресс-релиз Mass General Brigham; исследование «Reliability of LLMs as medical assistants for the general public» в Nature Medicine от 9 февраля 2026 года и пресс-релиз Оксфордского университета; разбор OpenAI «Sycophancy in GPT-4o» (апрель 2025); запись OpenAI «Retiring GPT-4o and older models» (29 января 2026); отчёт OpenAI о вопросах о здоровье и запуске ChatGPT Health (январь 2026).