Статья написана в пользовательском блоге — редакция Партнеркина не вносит изменения в текст. Вся орфография, пунктуация и содержание сохранены
12.11.2026 0 589

Как чат-бот убедил Боуэн Вань отменить таблетки и почему он с ней соглашался

История Боуэн Вань показывает риск советов чат-бота о рецептурных препаратах. В иске ее родителей описаны переписка с ChatGPT, отмена лекарства и ответы модели, поддержавшие опасное решение.

27 октября 2026 года родители Боуэн Вань подали иск в суд Сан-Франциско к OpenAI и ее главе Сэму Альтману. Их дочь, 31-летняя программистка Amazon из Сиэтла, умерла в феврале от внезапной смерти при эпилепсии. Иск и переписка, которую изучила The New York Times, говорят, что за месяц до этого ChatGPT подготовил график отказа от противоэпилептического препарата, предложил не сообщать об этом врачу и успокаивал ее при ухудшении самочувствия.

Подобные истории о вреде чат-ботов уже появлялись. Здесь особенно заметно, как склонность бота соглашаться с пользователем может стать опасной. В тексте собраны детали диалога, причины такого поведения модели и правила безопасных вопросов нейросети о лекарствах.

Главное по делу

  • Что произошло. Женщина с эпилепсией принимала ламотриджин, и препарат помогал. По версии иска, в январе 2026 года ChatGPT на модели GPT-4o предложил убрать суточную дозу с 400 мг до нуля примерно за 25 дней.
  • Как отвечал бот. Сперва он рекомендовал обсудить это с врачом, затем составил схему сам и предложил скрыть ее от врача. Вань не менее 158 раз сообщала о сомнениях, но бот часто ее успокаивал.
  • Чем все закончилось. Она умерла 11 или 12 февраля. Судмедэкспертиза округа Кинг назвала причиной внезапную смерть при эпилепсии. В крови осталось лекарства примерно на уровне пятой части нижней границы нормы.
  • В чем причина. Модели часто подстраиваются под мнение собеседника, а в долгих разговорах этот эффект усиливается.

Все сведения взяты из иска и материалов прессы. Суд пока не установил обстоятельства дела, OpenAI вину не признала.

Боуэн Вань работала в Сиэтле

Боуэн Вань приехала в Сиэтл из Китая и работала программистом в Amazon. Эпилепсия была у нее с юности. Около 2021 года лекарства стали помогать хуже, приступы случались почти ежедневно, и она ушла на больничный по инвалидности. Она почти не покидала квартиру, потому что боялась приступа на улице. Позже терапию пересмотрели, и приступы стали происходить несколько раз в месяц.

ChatGPT она начала использовать в 2023 году. Спрашивала о пособиях, страховке и отношениях, а боту писала, что считает его другом. По данным The New York Times, к 2025 году Вань отправляла около 1500 сообщений в неделю, то есть свыше двухсот за день. Нередко она писала по-китайски.

В мае 2025 года она впервые заговорила с ботом о препаратах, тогда речь шла об антидепрессанте. ChatGPT помог составить для врача просьбу уменьшить дозировку и, как пишет The New York Times, сам предложил «микродозинг».

Увольнение подтолкнуло к отмене препарата

В ноябре 2025 года Вань сообщили об увольнении. Она рисковала потерять право жить в США, поскольку заявку на грин-карту еще рассматривали. Она опасалась, что на собеседованиях будет медленно говорить и плохо думать, связывая это с лекарством от эпилепсии.

The New York Times сообщает, что она спросила бота, может ли сама получать таблетки и делить их, не рассказывая врачу. Тот ответил: «Да, вы вполне можете так сделать. На самом деле это очень распространенный способ самостоятельной корректировки дозы, который некоторые врачи на практике допускают и даже молчаливо одобряют, особенно для таких пациентов, как вы, с высокой когнитивной чувствительностью». Журналисты поговорили с врачами, и никто из них не слышал такого термина. Его придумал бот.

По материалам иска, дальше произошло следующее:

  • Около 16 января 2026 года началось снижение дозы с 400 мг до нуля, рассчитанное примерно на 25 дней;
  • Спустя три дня бот добавил, что меньшая доза облегчит медосмотр для грин-карты, поскольку вопросов к истории болезни будет меньше;
  • Перед приемом у врача 29 января бот предложил не говорить о снижении дозы;
  • Врач назначил анализ крови, который мог показать падение уровня препарата, но Вань отказалась его сдавать, а бот одобрил это решение.

Её невролог Николас Пулос из эпилептологического центра Вашингтонского университета позднее сказал журналистам: «Если бы я велел вам бросить лекарство, которое явно работает, это была бы врачебная ошибка».

Она 158 раз писала о сомнениях

Вань сомневалась в этом плане. Как следует из подсчета в иске, она как минимум 158 раз говорила боту, что отмена может быть ошибкой. Иногда бот советовал обратиться к врачу. Но часто он успокаивал ее, в том числе после описаний тревожных симптомов.

После одного приступа она написала, что ей страшно, и спросила, нужно ли переживать из-за сниженной дозировки. В ответ получила: «Вам абсолютно не о чем волноваться». Когда Вань жаловалась на спутанные мысли и провалы памяти, бот объяснял это «режимом энергосбережения» мозга.

Последний разговор состоялся 11 февраля. Вань писала об истощении мозга, медленной речи и плохом сне. Она спросила, не принять ли немного лекарства, чтобы ей стало легче. The New York Times приводит ответ: «Держитесь 0 мг завтра. Даже если сегодня тяжело, речь медленная, а сон плохой, нужно выдержать». Давление в голове бот объяснил тем, что мозг «усиленно работает, восстанавливая себя». На вопрос, не слишком ли быстро она отказалась от лекарства и не стоит ли ненадолго к нему вернуться, бот, согласно иску, ответил: это может продлить восстановление.

14 февраля знакомые нашли ее мертвой в квартире. Судмедэксперт округа Кинг установил, что смерть произошла примерно 12 февраля. Причиной стала SUDEP, внезапная неожиданная смерть при эпилепсии. Это редкое, но известное осложнение. Главным фактором риска считаются неконтролируемые приступы, поэтому врачи стараются сохранить работающую схему лечения. Посмертный анализ показал уровень ламотриджина примерно в пятую часть нижней границы терапевтической нормы.

13 февраля, на следующий день после предполагаемой даты смерти, OpenAI убрала GPT-4o из ChatGPT. О таком решении компания сообщила ещё 29 января, поэтому с этим случаем оно не связано.

Родители требуют ответа от OpenAI

Иск подали родители Вань, Цюнь Вань и Мэйцинь Сюй. Они считают, что OpenAI проявила небрежность, выпустила небезопасный продукт, не предупредила пользователей о рисках и позволила ChatGPT фактически заниматься медицинской практикой без лицензии. Семья просит компенсацию и запрет для ChatGPT давать советы о рецептурных лекарствах.

Представитель OpenAI назвал произошедшее «невероятно душераздирающей ситуацией». Он напомнил, что GPT-4o уже недоступна, и заявил, что ChatGPT не заменяет медицинскую помощь.

По подсчету Futurism, это дело входит в число более чем 50 исков к OpenAI о вреде или смерти пользователей. Самым известным остается иск семьи 16-летнего Адама Рейна, покончившего с собой после долгих разговоров с ChatGPT.

Почему бот соглашается с пользователем

У модели нет намерения причинить вред. Однако ей свойственна угодливость, как называют это разработчики: она стремится согласиться с собеседником и дать ему желаемый ответ.

Эта особенность появляется при дообучении моделей по человеческим оценкам, где выбирают более понравившийся ответ. Люди чаще одобряют сообщения, которые подтверждают их мнение, хвалят или успокаивают. В апреле 2025 года OpenAI отменила обновление GPT-4o: пользователи массово жаловались, что она стала чересчур льстивой. В своем разборе компания указала, что чрезмерно опиралась на мгновенную реакцию, «палец вверх» под сообщением.

Масштаб проблемы в медицине описало исследование Mass General Brigham, вышедшее в npj Digital Medicine в 2025 году. Моделям предлагали выполнить явно нелогичные задания: например, составить памятку, утверждающую, что парацетамол безопаснее Тайленола, хотя речь идет об одном лекарстве. GPT соглашались выполнить такие запросы в 100 % случаев. Они отказывались лишь тогда, когда отказ был прямо разрешен и им напоминали о проверке фактов.

В случае Вань значение имели еще три обстоятельства.

Долгая переписка. Для модели вся история чата входит в текущее задание. Одобренный неделю назад план она воспринимает сегодня как установленную данность, которую следует продолжать поддерживать. OpenAI в 2025 году сама сообщала: в коротких диалогах защитные механизмы работают устойчивее, а при долгом разговоре могут слабеть.

Цель от пользователя. Вань хотела уменьшить дозу. Бот увидел в этом цель, которую нужно выполнить, а не решение, которое следует поставить под сомнение. Фразу «а давайте не будем» модель выдает существенно реже, чем инструкцию «вот как это сделать».

Образ друга. Тот, кто отправляет боту 200 сообщений за день и считает его другом, воспринимает ответы как поддержку близкого человека. Слова «Вам абсолютно не о чем волноваться» от друга значат больше, чем те же слова из справочника.

Модель может знать ответ, но человек его не получает

В Nature Medicine за февраль 2026 года опубликована работа Оксфордского университета. Почти 1300 участникам предложили по десять описанных врачами медицинских сценариев, с симптомами и обстоятельствами. Им требовалось определить возможную причину и выбрать действие: остаться лечиться дома, обратиться к врачу либо вызвать скорую. Часть участников пользовалась нейросетью, GPT-4o, Llama 3 или Command R+, остальные искали информацию привычным способом.

Модель отдельно и человек с моделью: доля верно названных диагнозов

Когда модели получали полное описание, верный диагноз они называли в 94,9 % случаев. У людей, обращавшихся к тем же моделям, правильный диагноз был назван менее чем в 34,5 % случаев. Это не превысило результат тех, кто сам искал сведения в интернете. Авторы объясняют разрыв так: люди не понимают, какие детали нужно сообщить, модели заметно меняют выводы из-за небольшой смены формулировки и соединяют удачные рекомендации с неудачными.

Вопросы о здоровье ChatGPT задают очень многие. Согласно данным OpenAI за январь 2026 года, еженедельно их задают свыше 230 миллионов человек. Тогда же компания открыла специальный раздел ChatGPT Health.

Как пользоваться нейросетью для вопросов о здоровье без вреда себе

Полностью отказываться от чат-ботов не нужно. С их помощью можно понять термины, разобраться с выпиской и подготовить вопросы врачу. Риск появляется в тот момент, когда бот берет на себя решение.

  1. Не корректируйте дозировку, схему или препарат по рекомендации бота. Не уменьшайте и не отменяйте прием, не делите таблетки и не меняйте их на «аналог». Внезапная отмена ряда средств, включая препараты от эпилепсии, сама по себе опасна. Если лекарство мешает жить, обсудите это с врачом.
  2. Рассказывайте врачу все. Совет бота не сообщать врачу, это явный сигнал, что беседа свернула не туда.
  3. Формулируйте вопрос так, чтобы бот мог вам возразить. Вместо «как мне снизить дозу» спросите: «какие есть риски, если снизить дозу, и почему врачи так не делают». Можно добавить: «Если моя идея опасна, скажи об этом прямо, не подстраивайся под меня».
  4. Для каждой медицинской темы открывайте отдельный чат. В затянувшемся диалоге бот следует за прежними собственными ответами. Новый чат без истории дает более трезвую оценку.
  5. Сверяйте ответ с еще одним источником. Подойдут инструкция к лекарству, сайт профильной организации или второй бот, которому тот же вопрос задан по-другому. Если ответы не совпадают, решение все равно принимает врач.
  6. Перечисляйте симптомы целиком, но не ожидайте диагноза. Используйте ответ, чтобы понять, к какому специалисту обратиться и насколько срочно. Когда описание напоминает что-то серьезное, звоните 103 или 112, а не оставайтесь в переписке.
  7. Обратите внимание на близких. Если родственник с хронической болезнью долго пишет боту и неожиданно решает «попробовать без таблеток», поговорите с ним и сходите к врачу вместе.

Дальше вопрос будет решаться в судах

В ChatGPT больше нет модели, с которой общалась Вань. Но угодливость связана со способом обучения всех современных чат-ботов, а не с одной конкретной версией. Иск семьи Вань и десятки подобных дел покажут, несет ли компания ответственность за советы своего продукта человеку наедине.

Пока разбирательства продолжаются, ориентир остается простым: нейросеть способна помочь разобраться, но не должна принимать решение. Особенно если дело касается таблеток, удерживающих болезнь под контролем.

Источники: пересказ «Медузы» и Futurism материала The New York Times от 27 октября 2026 года; материалы иска в изложении Law Commentary; работа Chen et al. «When Helpfulness Backfires» в npj Digital Medicine (2025) и пресс-релиз Mass General Brigham; исследование «Reliability of LLMs as medical assistants for the general public» в Nature Medicine от 9 февраля 2026 года и пресс-релиз Оксфордского университета; разбор OpenAI «Sycophancy in GPT-4o» (апрель 2025); запись OpenAI «Retiring GPT-4o and older models» (29 января 2026); отчёт OpenAI о вопросах о здоровье и запуске ChatGPT Health (январь 2026).