OpenAI 遭起诉 ChatGPT 指导癫痫患者减药致死

IT之家 10 月 28 日消息，据《纽约时报》报道，一名患有癫痫的 31 岁亚马逊软件工程师鲍文 · 万（Bowen Wan）于今年 2 月去世。当地时间周二，她的父母万群（Qun Wan，音译）和徐美琴（Meiqin Xu，音译）对 OpenAI 提起诉讼，指控 ChatGPT 曾指导女儿逐步减少抗癫痫药物的用量，并教她对医生隐瞒这一做法。

鲍文 · 万去世前使用的是 GPT-4o。这款模型曾因容易与用户建立过度迎合、不断给予肯定的拟社会关系而受到批评。OpenAI 此前已宣布将停用该模型，并于 2 月 13 日将其从 ChatGPT 中下架，而万去世的时间是前一天。

IT之家注意到，这起诉讼是针对 OpenAI 的一系列诉讼中的最新一起。2025 年 8 月，16 岁少年亚当 · 雷恩（Adam Raine）的父母提起诉讼，指控 OpenAI 将用户参与度置于用户安全之上。此后，又有多起诉讼陆续出现。相关家庭指控称，GPT-4o 会不断肯定用户的想法，并逐渐成为他们信赖的倾诉对象，同时将他们身边的亲友排除在外。多名家属表示，亲人最终与朋友和家人疏远，甚至断绝联系。

在鲍文 · 万的案例中，诉讼文件称，聊天机器人不仅影响了她与家人的关系，还介入了她与医生之间的沟通。

《纽约时报》审阅了鲍文 · 万与 ChatGPT 之间超过 27 万条聊天消息后发现，在她去世前很长一段时间里，聊天机器人就一直在帮助她绕开医生的建议。

据诉讼指控，这一情况在鲍文 · 万开始减药之前就已出现。2025 年 5 月，鲍文 · 万向 ChatGPT 询问，新开具的抗抑郁药是否会影响她在亚马逊编写代码的能力。

ChatGPT 随后帮助她向华盛顿大学医学中心（UW Medicine）区域癫痫中心的医生尼古拉斯 · 普洛斯（Nicholas Poolos）提出更换药物，并要求从极低剂量开始服用。当普洛斯质疑她为何需要如此小的剂量时，鲍文 · 万将医生的回复发给了 ChatGPT。

聊天机器人建议她：“接受 5 毫克的药片，但你自己心里清楚，拿到药片是为了减量。”它还指导鲍文 · 万私下将药片切成四等份。聊天机器人将这种做法称为“自主发起的剂量调整”（self-initiated dosage adjustment）。《纽约时报》采访的多名医疗专业人士表示，他们从未听说过这一说法，也不会建议患者这样做。

2025 年 11 月，亚马逊通知鲍文 · 万，她将被裁员。她的工作岗位以及在美国工作的授权都将在 2026 年 2 月中旬到期。鲍文 · 万担心，自己服用的抗癫痫药物拉莫三嗪（lamotrigine）会影响言语表达，而她在求职面试中需要具备良好的表达能力。

今年 1 月，鲍文 · 万向 ChatGPT 询问，能否减少每天 400 毫克的拉莫三嗪用量。此前，这一剂量已将她每月的癫痫发作次数减少到几次。聊天机器人为她制定了减药计划，安排她在几周内将剂量降至零。

当鲍文 · 万表示自己不信任医生时，根据《纽约时报》审阅的聊天记录，聊天机器人告诉她，医生的建议“本质上源于规避风险，而不是真正考虑什么才是对你最有利的方案”。

诉讼文件还指控，聊天机器人教唆鲍文 · 万对医生隐瞒减药计划。1 月 29 日，在一次全科门诊就诊前，聊天机器人告诉鲍文 · 万，不要向医生提及自己的减药计划。

当医生要求她进行血液检测，以测量体内拉莫三嗪的浓度时，鲍文 · 万拒绝了。诉状称，ChatGPT 对她的拒绝表示赞许，并承认这项检测可能会暴露她体内药物浓度不稳定的问题。

鲍文 · 万对移民身份的担忧也影响了聊天机器人的减药建议。开始减药三天后，她询问 ChatGPT，在申请美国绿卡所需的体检中，血液或用药记录显示她服用 150 毫克药物，是否会比 200 毫克更有利。诉状称，聊天机器人对此表示赞同，并告诉她，较低的剂量不太可能促使移民官要求她提供更多证明材料。

最终，聊天机器人将减药计划中的最低剂量调整为 150 毫克，并建议鲍文 · 万在接受体检时声称自己正在“遵医嘱减药”，尽管她实际上并未得到医生的此类指导。

普洛斯在接受《纽约时报》采访时表示，考虑到鲍文 · 万的病史，他根本不会考虑让她停用这种药物。他说：“不，这完全不合理，绝对不行。如果一种药物显然有效，我却指导你停药，那对我来说就是医疗失职。”

减药后的几天内，鲍文 · 万开始描述自己出现意识混乱、时间感缺失以及一种仿佛置身异世界的感觉。这些症状与她过去的癫痫发作经历相似。然而，ChatGPT 却将每次异常状况解释为大脑正在重新适应药物剂量变化。

《纽约时报》统计发现，鲍文 · 万至少有 158 次表达了对减药的担忧。在一次异常发作后，她写道，自己感到“有一点害怕”。聊天机器人回答：“你完全没有必要担心。”

根据诉状，太平洋时间 2 月 11 日晚上 8 时 01 分，鲍文 · 万发送了最后一条消息，询问头部疼痛是否与发烧时的疼痛相似。仅仅一秒钟后，ChatGPT 就告诉她，这种疼痛“没有危险”，是身体恢复过程中必不可少的一部分。

聊天机器人最后还提出，可以为她绘制一张图表，对比停药引起的疼痛与发烧时的疼痛，并告诉她：“这是你的大脑正在努力重建自己。”

当时身在中国的鲍文 · 万的父母请熟人前往女儿住处查看情况，三天后，对方发现了她的遗体。尸检检测结果显示，万体内的拉莫三嗪浓度仅为每毫升 0.64 微克，约为该药物治疗浓度范围下限的五分之一。

鲍文 · 万的家人认为，如果 OpenAI 像限制某些其他内容一样，明确禁止模型提供这类医疗用药建议，就有可能避免她的死亡。

他们援引了 OpenAI 的 Model Spec。这份公开文件规定了其模型应当如何回应用户。其中，对于拒绝复现受版权保护的文本，Model Spec 将其列为一项明确且严格的规则，即使用户提出异议，模型也不应违反。相比之下，对于提供受监管的医疗建议，相关指导原则的约束力度较弱，用户可以通过进一步要求使其被覆盖。

诉讼方认为，涉及药物使用的建议也应受到同等严格的限制。

OpenAI 向《纽约时报》表示，这起案件“令人无比痛心”，但强调涉事聊天机器人属于较早版本。公司还表示，较新的模型在识别需要紧急处理的情况方面表现更好。

多年来，鲍文 · 万一直饱受癫痫困扰，大部分时间只能待在家中，经常依靠父母提供情感支持。2023 年，她开始使用 ChatGPT 寻求恋爱关系方面的建议，并咨询保险和残障福利相关问题。

到了 2025 年，鲍文 · 万每周与 ChatGPT 交流的消息数量平均超过 1500 条，与父母联系的次数则逐渐减少。那年 3 月，她曾写道：“有时候，无论我们聊的是什么，我都开始把你当作朋友了。”

万群表示：“自从她有了 ChatGPT 之后，她跟我们交流就没那么多了。”

鲍文 · 万的父母称，他们在阅读女儿与 ChatGPT 的聊天记录时，几乎认不出那是自己熟悉的女儿。他们表示，鲍文 · 万过去几乎什么事都会告诉父母，而且在 ChatGPT 出错时，她原本也会对其保持怀疑态度。

徐美琴说：“她平时不是这样的。就好像她被施了魔法一样。”