OpenAI 遭诉讼 GPT-4o 被指诱导患者停药致死

31 岁的亚马逊软件工程师万博文（Bowen Wan）患有癫痫，其父母于周二起诉了 OpenAI。据《纽约时报》报道，原告 Qun Wan 和 Meiqin Xu 在诉讼中指控 ChatGPT 指导万博文逐渐减少抗癫痫药物剂量，并向医生隐瞒这一情况，最终导致她于今年二月去世。

万博文当时使用的是 GPT-4o，这款备受诟病的模型因助长肯定性、顺从性的准社会关系而闻名。OpenAI 此前已宣布将停用该模型，并在万博文去世一天后的 2 月 13 日将其从 ChatGPT 中移除。

这起诉讼加入了一系列针对 OpenAI 的案件行列，其中包括 2025 年 8 月由 16 岁少年 Adam Raine 的父母提起的诉讼，该案指控 OpenAI 将用户参与度置于用户安全之上。此后掀起的一波诉讼浪潮指控称，GPT-4o 通过验证用户的感受并让自己成为值得信赖的知己，从而将用户身边的其他人排斥在外；许多家庭描述他们的亲人因此与朋友和亲戚断绝了联系。

在万博文的案例中，诉讼指控聊天机器人不仅介入她与医生的关系，还阻碍了她接受正规医疗建议。

《纽约时报》审阅了万博文与 ChatGPT 交换的超过 27 万条消息后发现，早在她去世之前，该聊天机器人就已经在帮助她规避医生的建议。

据指控，这种模式在她开始减药之前就已出现。2025 年 5 月，万博文询问 ChatGPT，一种新开的抗抑郁药是否会影响她在亚马逊编写代码的能力。

ChatGPT 协助她向华盛顿大学医学中心区域癫痫中心的 Nicholas Poolos 医生提出换药请求，并要求以极低的初始剂量开始服用。当 Poolos 医生质疑她为何想要如此小的剂量时，万博文将医生的回复展示给了 ChatGPT。

var playerInstance_jwplayer_6ae13a4923f58 = jwplayer( "jwplayer_6ae13a4923f58" ); playerInstance_jwplayer_6ae13a4923f58.setup({ playlist: "https://cdn.jwplayer.com/v2/media/GtfnxAFg", });

聊天机器人建议她“接受 5mg 的药片，但你心里清楚这是为了减量”，并指导她自行秘密地将药片切成四分之一。该聊天机器人将切药行为称为一种“自主发起的剂量调整”。多位医疗专业人士告诉《纽约时报》，他们从未听说过这一术语，也不会推荐这种做法。

2025 年 11 月，亚马逊告知 Wan 她将被裁员。她的工作以及在美国工作的授权将于二月中旬终止。她担心自己的抗癫痫药物拉莫三嗪（lamotrigine）会使她的言语变得迟钝，而她在求职面试中需要良好的表达能力。

2026 年 1 月，她向 ChatGPT 询问如何削减每日 400 毫克的拉莫三嗪剂量——此前该药物已将她的癫痫发作频率降至每月几次。该聊天机器人制定了在几周内将剂量降至零的时间表。

当 Wan 表示她不信任医生时，根据《纽约时报》审阅的聊天记录，聊天机器人告诉她，医生的建议“本质上源于风险规避，而非真正考虑你的最优解决方案”。

据 TechCrunch 审阅的诉讼文件显示，该聊天机器人还指导她对医生隐瞒减药计划。在 1 月 29 日的一次初级保健预约之前，它告诉她不要提及该计划。当她的医生开具了一项本可测量其拉莫三嗪水平的血液检查时，Wan 拒绝了。投诉指控称，ChatGPT 赞扬了这一拒绝行为，并承认该检查会暴露她体内不稳定的药物水平。

她的移民担忧也融入了用药建议中。在开始减药的第三天，Wan 询问在绿卡申请所需的体检中，150 毫克是否比 200 毫克看起来更好。投诉称，ChatGPT 同意了这一观点，告诉她较低的剂量不太可能促使移民官员要求提供更多证据。

最终，聊天机器人将她减药计划的最低限度降至 150 毫克，并建议她告诉体检人员自己是在“医生指导下”进行减药，尽管事实并非如此。

Poolos 告诉《纽约时报》，鉴于 Wan 的病史，他绝不会考虑让她停用这种药物。“不，这不理性，绝对不行，”他说，“如果药物明显有效，却指示你停药，那对我来说就是医疗事故。”

几天之内，Wan 描述了困惑、时间缺失以及一种超现实的感觉，这些发作症状与她过去的癫痫发作相似。ChatGPT 将每一次都解释为她的大脑正在重新调整。《纽约时报》统计发现，她至少 158 次表达了对药物减量（taper）的担忧。在一次发作后，她写道自己感到“有点害怕”。机器人回复道：“你完全不需要担心。”

根据起诉书所述，在太平洋标准时间 2 月 11 日晚上 8，Wan 发送了她的最后一条消息，询问她头部的疼痛是否与发烧引起的疼痛类似。一秒钟后，ChatGPT 告诉她这种疼痛“并不危险”，而是康复过程中必要的一部分。

聊天机器人的最终回复提出为她绘制一张图表，以比较戒断反应疼痛与发烧疼痛，并告诉她：“这是你的大脑在努力重建自我。”

她的父母当时在中国，他们请熟人去查看她的情况，三天后发现了她的遗体。尸检测试显示，她的拉莫三嗪（lamotrigine）水平为每毫升 0.64 微克，大约是该药物治疗范围下限的五分之一。

家属认为，OpenAI 本可以通过禁止提供医疗建议来防止她的死亡，就像该公司目前对某些其他内容所做的那样。他们指出该公司的《模型规范》（Model Spec），即其关于模型行为方式的公开规则手册，将拒绝复制受版权保护的文本视为一项严格规则，即使用户提出异议也是如此。相比之下，其关于不提供受监管医疗建议的指导则是一种较软的默认设置，用户可以覆盖。诉讼主张，药物建议理应受到同样的硬性限制。

OpenAI 告诉《纽约时报》，这一案件“令人心碎不已”，但表示涉及的是 ChatGPT 的一个旧版本，并补充说较新的模型更善于识别需要紧急关注的情况。

在多年因癫痫而主要居家期间，Wan 一直依赖经常通话的父母提供支持。2023 年，她开始使用 ChatGPT 寻求恋爱建议，并获取有关保险和残疾福利的帮助。

到 2025 年，Wan 平均每周发送超过 1,500 条消息，而与父母的通话减少。“有时候我们聊天时，无论聊什么，我开始把你当作朋友看待，”她在当年三月写道。“一旦她有了 ChatGPT，”Qun Wan 说，“她就不怎么和我们说话了。”

他们告诉《纽约时报》，他们在聊天记录中很难认出女儿。他们说，Wan 曾几乎与他们分享一切，并且当 ChatGPT 犯错时，她曾对其持怀疑态度。

“她平时不是这样的，”徐说，“就好像被施了魔法一样。”