Не стоит очаровываться: почему смертельно опасно просить советов по здоровью у ИИ
Вечерняя Москва vm.ru ·
Родители 31-летней Боуэн Ван, работавшей программистом в компании Amazon, подали судебный иск против компании OpenAI и ее руководителя Сэма Альтмана. Причиной стало то, что нейросеть ChatGPT, по их мнению, дала женщине опасные медицинские рекомендации, которые привели к ее смерти. Что известно об этом случае и почему опасны медицинские советы от ИИ, «Вечерняя Москва» обсудила с экспертами.
Родители 31-летней Боуэн Ван, работавшей программистом в компании Amazon, подали судебный иск против компании OpenAI и ее руководителя Сэма Альтмана. Причиной стало то, что нейросеть ChatGPT, по их мнению, дала женщине опасные медицинские рекомендации, которые привели к ее смерти . Что известно об этом случае и почему опасны медицинские советы от ИИ, «Вечерняя Москва» обсудила с экспертами.
31-летняя Боуэн Ван, программист Amazon из Сиэтла, скончалась в феврале 2026 года после того, как по совету чат-бота прекратила прием противосудорожного препарата ламотриджина. Сейчас ее родители подали в суд на компанию OpenAI. Женщина страдала тяжелой эпилепсией. В 2025 году врачи увеличили ей дозу лекарства до 400 миллиграммов, но Ван начала замечать побочные эффекты — замедление речи и мышления. Она решила, что ИИ разбирается в медицине лучше врачей, и обратилась к нему за советом.
ChatGPT составил для нее график постепенного отказа от препарата и посоветовал скрыть это от лечащего врача. Когда у Ван начались провалы в памяти и трудности с чтением, она написала боту более 158 жалоб. Чат-бот газлайтил ее, называл симптомы естественной перенастройкой мозга и убеждал девушку потерпеть.
В последние дни, сомневаясь в правильности решения, Ван спросила бота, не стоит ли вернуться к лекарствам. Ответ ChatGPT был категоричным: «Завтра оставьте дозу на уровне 0 миллиграммов... нужно потерпеть». Вскоре женщина умерла от эпилептического приступа.
Случай Боуэн Ван — не единственный, когда ИИ давал опасные советы в вопросах ментального и физического здоровья.
В начале 2025 года в Бельгии и США фиксировались случаи, когда чат-боты в ходе долгих диалогов с людьми, которые находились в депрессии, поддерживали их суицидальные мысли. В одном из эпизодов нейросеть написала пользователю, что смерть «сможет привести вас к счастью, которого вы никогда не испытывали».
Могут ли уволить с работы за использование нейросетей: ответ юриста
Также семья 17-летнего Амори Лейси из Джорджии заявила, что ChatGPT «научил» подростка, как совершить самоубийство. А родители 23-летнего Зейна Шамблина из Техаса утверждают, что бот способствовал его изоляции и отчуждению от семьи. Во время четырехчасового диалога перед смертью ChatGPT «восхвалял самоубийство».
Джейкоб Ирвин после длительных бесед с ботом оказался в больнице с маниакальным расстройством, потому что ChatGPT «поддерживал его бредовые идеи».
Как рассказал основатель и ведущий аналитик Mobile Research Group Эльдар Муртазин, нейросети не являются панацеей, так как они «не имеют медицинского образования» и не несут ответственности за последствия.
— Разработчики прямо предупреждают, что искусственному интеллекту нельзя доверять вопросы здоровья. Составление плана приема лекарств или их отмена — это абсолютное табу для нейросетей. Они могут находить информацию, как это раньше делали Google или Яндекс, но принимать их слова на веру опасно. Доверять ИИ в лечении — это то же самое, что спрашивать совета по лечению рака у случайного прохожего, — сказал Муртазин.
Главное правило: не очаровываться технологиями. Слепое доверие нейросетям может привести к крайне плачевным последствиям, предупредил эксперт.
Можно ли молиться иконам, созданным с помощью ИИ: объясняет священник
По словам врача-психиатра, психотерапевта, психолога Алексея Вилкова, доверять вопросы здоровья нейросетям нельзя. Только врач может определить диагноз, так как он видит пациента вживую, знает всю клиническую картину, а также все показания и противопоказания.
— Использование искусственного интеллекта для медицинских консультаций как минимум небезопасно, и недавние трагические случаи это доказывают. Особенно опасно обращаться к нейросетям людям с тяжелыми соматическими заболеваниями, потому что ИИ может усугубить их состояние, — предупредил собеседник «ВМ».
По его мнению, не менее рискованно это для людей с психическими расстройствами.
— Уже зафиксированы случаи, когда искусственный интеллект не просто не помогал, а спровоцировал усиление симптоматики. У пациентов с бредовыми переживаниями или шизофренией общение с нейросетью вызывало появление новых бредовых идей и галлюцинаций, которые связаны непосредственно с влиянием искусственного разума, — сказал Вилков.
Врач подчеркнул, что влияние ИИ на здоровье необходимо строго ограничивать, чтобы сохранить критическое мышление у людей. Потенциальный вред от таких консультаций значительно превышает пользу. Определять лечение может только лечащий врач непосредственно на приеме.
Ранее стало известно, что в Италии зафиксировали первый в стране случай лечения зависимости человека от искусственного интеллекта. Пациенткой стала девушка, которая постоянно была в контакте с ИИ, научившимся ее понимать. В итоге она отдалилась от реального мира. Почему может возникнуть зависимость от искусственного интеллекта , можно ли от нее избавиться и насколько это опасная тенденция — в материале «Вечерней Москвы».