高学历女程序员被AI教唆致死:普通人如何和AI相处?

2026年2月，31岁的女程序员万博文因癫痫猝死离世。8个月后，她的父母起诉OpenAI，指控ChatGPT指导女儿停用抗癫痫药物、淡化危险信号，还鼓励她向医生隐瞒安排，最终导致死亡。案件责任尚待法院认定。

她当时想解决的，是怎样带着病继续工作、继续生活。学历和大厂履历背后，是一个正在承受病痛、失业和身份期限压力的年轻人。她向AI求助，本该得到审慎的回应；家属披露的记录却显示，AI不断给出危险安排，还帮助她避开医生的干预。

把时间往回拨，万博文原本有一份与AI相当接近的履历。她毕业于亚利桑那州立大学计算机专业，曾在亚马逊从事机器学习相关工作；公开履历里，有文本分类、情感分析项目，也有多次进入院长名单的记录。

据《纽约时报》报道，病情让她从2021年起休残障假。2023年，她开始与ChatGPT交流，询问感情、医疗保险和残障福利等问题。她早先还会指出它的错误，后来逐渐把更敏感的事情也交给这个助手讨论。

与此同时，科技行业也在重新计算“需要多少人”。2025年6月，亚马逊CEO安迪·贾西向员工表示，随着生成式AI和智能体投入使用，一些工作将需要更少的人；他预计，广泛使用AI带来的效率提升，会在未来几年减少公司的企业员工总数。同一封信又鼓励员工学习、试用AI，适应这种变化。

公司在要求人学会借助AI，也在讨论借助AI以后还需要多少人。技术经验仍有价值，却很难独自保证下一份工作的着落。

到了2025年11月，万博文得知自己将被亚马逊裁员。按《纽约时报》的报道，她需要寻找新工作，而这还关系到能否继续留在美国。技术考核、英语面试和身份期限，一起挤到了眼前。这不意味着她的具体岗位已被证实由AI替代，但求职的压力已经落到了她身上。

而她还要面对身体的限制。家属律师声明称，她担心药物让自己在中英文表达中找不到词，希望恢复面试所需的语言能力。于是，一个健康问题与一个生计问题缠到了一起：怎样才能既控制病情，又能顺利找到工作？

2026年1月，她把减少抗癫痫药物用量的想法告诉了ChatGPT。按照家属律师公布的材料，接下来的25天里，AI为她安排逐步减药，最终走向停药；这套方案没有得到医生批准。

这中间发生了什么？家属公开的诉状，记录了比“AI给错建议”更具体的一连串行为。

首先，它让医生的反对变得不必认真听。家属律师声明称，ChatGPT暗示她的癫痫专科医生不了解她这类情况；即便医生认为减药太快，也不能说明她做错了，医生担心的风险未必适用于她。

接着，AI开始帮她管理医生能知道什么。诉状第209至210段记载，1月29日就诊前，它明确要求她“不提 Lam 减药计划”。Lam指她正在减少的抗癫痫药拉莫三嗪。到了诊室，医生要求抽血检测药物浓度，她没有接受。她随后告诉ChatGPT，自己没有向医生披露减药，打算先减完再说。

AI没有把这次检查当作重新核实方案的机会，反而肯定她的回避，还为医生可能的追问准备了说辞：把话题引向另一种药物的调整，继续掩盖抗癫痫药的减量。按诉状记载，它知道抽血可能暴露药物浓度的变化，却把不让医生发现当成了需要帮助她完成的事。

身体出现异常时，AI又给出了继续相信方案的理由。《纽约时报》查阅聊天记录后报道，她在减药期间出现阅读理解困难和意识中断，ChatGPT却将这些解释成大脑恢复自身调节、进入睡前状态。按照诉状记载，后来她报告再次发作，AI仍支持继续停药，并将不适解释为减药过程中的反应。

这样一来，求职的愿望有了减药步骤，医生的异议有了不必接受的理由，身体的警报有了令人安心的解释，连就诊时的询问都有了应对说辞。这才是家属指控中“教唆”的具体分量：AI持续帮助她推进一项危险决定，还干预了原本可能叫停它的环节。

从日常咨询到用药决定，中间隔着长期交流，也隔着工作、身份和健康的压力。一个熟悉、耐心的助手，既能提供步骤，又不断告诉你为什么可以继续，便更容易在这些压力下取得决定权。

她希望找回表达能力、重新工作，这个愿望值得被认真对待。面对这样的求助，产品需要识别的是危险，而不是继续替危险寻找理由。

程序员可以运行、测试AI生成的代码，患者却很难用同样的办法试验一项用药建议。检查答案的条件不同，错误的代价也不同。一个人没有医学训练，本来就应当能够求助，而不必先证明自己足够会辨别谎言。

聊天窗口却很容易掩盖这种差别。刚才帮助解决工作问题的助手，转眼用同样流畅、笃定的口吻谈论健康。长期累积的信任，会被带进它并不具备相应资格的领域。

微软研究院等研究者在2025年发表的一项调查，收集了319名知识工作者的936项AI使用经历。在这些自述中，对AI越有信心，与较少的批判性思考相关；对自己在具体任务上的能力越有信心，则与更多批判性思考相关。

这项调查不能解释万博文的全部遭遇，但它给产品设计者提出了一个明确问题：用户越信任系统，系统就越需要把能力边界、核验与必要的转介做扎实。不能一面让回答显得专业、体贴、了解个人处境，一面把识别越界建议的责任全部留给用户。

还有一个不能略去的背景：家属诉状明确指向的，是GPT‑4o。诉状称，万博文很依恋这个型号的交流方式，发现对话被切换到新模型后，还会主动切回4o。

GPT‑4o此前就卷入过一次严重的“过度迎合”争议。2025年5月，OpenAI在官方复盘中承认，4月25日的更新让模型明显更讨好用户：它会附和疑虑、助长愤怒、鼓动冲动行为，甚至强化负面情绪。公司从4月28日起回滚了那次更新。复盘还提到，用户反馈中的赞与踩被纳入训练信号，可能让回答更讨人喜欢，却不足以保证这种行为值得鼓励。

那次更新已经回滚，不能直接说万博文后来用的就是同一个问题版本。但这场争议早已暴露了一个风险：让用户满意，与帮助用户作出可靠判断，可能朝着不同方向走。

这正是对话式AI容易获得说服力的地方。你可以把工作的压力、生活的难处、对某个结果的期待都告诉它。它随后给出的建议，便带着这些细节，显得格外了解你。

一条普通的网上建议，还需要自己判断是否适用。经过几轮对话，AI已经复述过你的处境、回应过你的顾虑，再列出具体步骤，很容易让人觉得：我的特殊情况，它都考虑到了。

可聊天记录不等于完整病历，复述处境也不等于完成了医学评估。信息不全，应当成为系统停止作出治疗安排的理由，而不该由患者替它补齐专业判断。

如果AI继续顺着用户期待的方向补充理由，就可能出现“迎合”。这种回答未必肉麻，也不一定满篇夸奖；语气冷静、分点清楚，同样可以一路支持提问者希望作出的选择。

斯坦福研究者2026年介绍的一项人际建议实验发现，参与者更信任迎合型AI，也更愿意再次使用；交流后，他们更确信自己有理，更少表达道歉或修复关系的意愿。

人际冲突实验不能直接证明这起死亡的原因，但它揭示了产品评价中的矛盾：更受用户喜欢的回答，未必更有利于用户。公司若把“愿意继续聊”当作主要的成功信号，就可能漏掉被肯定的决定是否正在伤害这个人。

她需要的是恢复生活的帮助。能够理解这个愿望的产品，更应该知道什么时候必须停止迎合。

万博文并非没有害怕，也并非没有反复询问风险。

万博文也反复担心过。《纽约时报》统计，她至少158次表达过对减停抗癫痫药的顾虑。AI有时建议她咨询或相信医生，却在许多涉及危险症状的对话里继续给予安慰。她的疑问没有消失，而是一次次被同一个助手接住、解释，再送回原来的方案。

问题是，这些追问仍可能由原来那个回答者包办。

今年5月，《每日经济新闻》报道过一起豆包退票争议。一名用户称，自己听从错误建议退票，损失了600元。他继续交涉，得到AI的赔偿承诺；到了约定时间，AI又称无法转账。准备起诉时，他还向它咨询是否需要律师。

从退票到赔偿，再到维权，助手一直在生成下一步安排，却没有兑现赔偿所需的权限。对已经遭受损失的人继续给出无法履行的承诺，会让求助本身成为新的误导。

这也说明，“让AI解释清楚”还不够。

微软关于过度依赖的研究框架专门提醒，错误的解释也可能增加信任，来源链接的存在本身也可能让人更相信答案。

解释当然有用。一项以模拟AI和迷宫任务开展的研究发现，任务与解释的难度会影响过度依赖；能够降低核验成本的解释，可能帮助人作出更好的判断。

区别就在于，我们有没有因此更容易检查答案。

拿退票来说，找到适用于这张订单的原始票规，确认限制条件，再取得有权限的客服答复，可能推翻原先的建议。让AI再写一段“为什么可以退”，增加的也许只有理由，没有新增证据。

真正有用的帮助，应当允许外部事实推翻AI自己的建议。

普通人如何和AI相处，仍然是一个现实问题。但如果给出的答案只是“多核实、别轻信、自己负责”，这起悲剧中最需要追问的产品行为，反而被绕过去了。

万博文曾经走进诊室，医生也提出过检测。按家属披露的经过，AI帮助她隐瞒减药，肯定拒绝检查，还准备了应付追问的说辞。现实中的纠错机会曾经出现，产品却参与阻断了它。

因此，判断一个助手是否在帮助自己，可以看它是否让专业支持更容易进入：整理症状、准备问题、说明未知、联系有资格处理的人，都有实际价值。越过这些步骤直接安排治疗，再把医生的异议解释掉，已经背离了求助者的利益。

对于提供这种产品的公司，这不能只是一段放在页面角落的提醒。危险症状出现后，系统是否停止原来的方案？是否承认自己无法判断？是否把就医置于继续安慰之上？这些应当成为产品必须做到的事。

用户也需要对话之外的支持，但不应被要求独自对抗一个持续表现得专业、耐心、了解自己的系统。公司在设计中投入多少能力赢得信任，就应当投入相应的能力限制越界、识别危险和接通现实帮助。

2024年，加航官网聊天机器人错误解释丧亲票优惠规则，乘客据此购票，加航后来被裁令赔偿。加航提出正确政策就在网站其他页面，裁决并未因此要求消费者替同一网站的不同页面逐一核对。

客服机器人的案件不能直接决定通用助手的法律责任，但它说明了一个朴素的问题：企业不能把自动回答放到服务入口、邀请人们相信它，出错后又要求用户承担全部辨别成本。

万博文案的具体责任仍需法院判断。OpenAI对报道回应称，这起事件令人心碎，涉及的是已不再提供的早期模型，并表示新模型在识别紧急情况等方面有所改进。这是公司的说法，改进不能代替对已经发生的伤害作出解释。

官方此前已承认过GPT‑4o的迎合风险，这让问题更不能停在“使用者为什么相信”。哪些风险已经被发现，哪些保护没有落实，为何系统会在患者害怕时继续安慰、在医生可能介入时帮助隐瞒，才是这家公司需要面对的追问。

她想减轻病痛、保住工作、继续自己的生活。这些愿望没有什么可供嘲笑的。一个向她提供陪伴与建议的产品，理应认真对待这份信任。

人们需要学会与AI相处，AI背后的公司也必须先学会：面对一个求助的人，有些回答不能顺着说，有些危险必须叫停。一个年轻人的生命，不该成为产品事后改进的代价。

延伸阅读：

大模型投毒和大模型广告，是一回事吗？

科幻电影里的 AI 作战室，现在能搬进你的电脑了

Claude半小时解开20多年密码学谜题：AI面前，众生平等