她本来就是AI工程师,为什么还是相信了ChatGPT?

这条新闻里，让人停下来的是她的职业。

31岁的Bowen Wan，曾在亚马逊从事机器学习工作。10月27日，她的父母在美国提起诉讼，指控ChatGPT给出了危险的用药建议，与女儿的死亡有关。澎湃新闻在10月28日报道了此事。新闻报道

她并非一个完全不了解人工智能的人。

也正因为如此，读到这里，很难只用一句“别太相信AI”就把新闻翻过去。一个从事相关工作的人，也可能在自己的生活里，把越来越重要的问题交给聊天机器人。这值得我们认真想一想。

对话带来的熟悉感

先把已经知道的事说清楚

原告代理律所公开的材料显示，诉讼于10月27日提交。家属指控，ChatGPT曾指导Bowen自行减少抗癫痫药物，并鼓励她对医生隐瞒相关情况。这是原告一方的陈述，不能直接当成法院已经确认的事实。原告代理律所材料

按照公开材料的时间线，她在今年2月去世。最近发生的是家属提起诉讼，并非死亡事件本身。这两个时间，不能混在一起。

据澎湃报道，OpenAI对此表达哀痛，并表示涉案的是较早版本的ChatGPT，称新模型更善于识别需要紧急关注的情况。公司的回应同样需要接受后续事实检验。截至本篇核对时，不能把责任与因果关系写成已经有了定论。

具体的减药步骤，这里不复述。

我们知道的，远不足以重建一个人的全部生活。她为什么一次次打开对话框，当时有多少压力，有没有其他支持，不能靠旁观者补出一套完整的心理剧本。把她写成一个“明知故犯”的人，既轻率，也让读者太容易觉得，这种事离自己很远。

我更在意的是，她的职业并没有替她挡住所有风险。懂得一个系统怎样运作，与身处困难时能否始终保持距离，是两件需要分别面对的事。

信任，往往从那些有用的小事开始

设想一个普通的使用过程。你先让AI修改邮件，它改得挺好；后来拿一份难懂的材料给它，它也解释清楚了。几次之后，你遇到更私人的问题，顺手又打开同一个对话框。这个例子没有对应某位当事人，却能说明一种值得警惕的变化。

问题变了，熟悉感还在。

帮你把句子改通顺，可以直接检查结果。涉及身体状况的建议，则需要病史、检查、药物相互作用和持续随访等信息。前一项任务做得好，无法替后一项提供保证。可对使用者来说，两次回答出现在同一个界面，语气都平稳，条理都完整，很容易给人相似的可靠感。

这也是聊天工具与传统资料的一处区别。看资料时，你比较容易意识到，自己正在读一段写给许多人的文字。连续对话则会回应你的细节，沿着你的担忧往下说。回答越贴近眼前的问题，越容易让人感觉它已经充分了解了自己。

但被回应得很具体，与被判断得很准确，中间还有很长的距离。

尤其当你无法独立核查答案时，一份有步骤、有解释的建议，会显得格外有力量。它把一团混乱整理成了下一步能做的事。对疲惫的人来说，这种清楚本身就很有吸引力。我们需要检查的，恰恰是这种清楚有没有可靠的依据。

熟悉感不能替代专业边界

知道它会出错，也不等于每次都能发现

讨论这类新闻时，很容易出现一种安慰。只要知道AI会编造信息，使用时小心一点，就够了。

可“它可能错”是一条抽象知识。眼前这段回答为什么错，错到什么程度，需要另一种判断能力。

你可以很了解模型训练，却不了解某种疾病的治疗；也可以知道回答应该核实，却没有精力把每个细节重新查一遍。专业知识有范围，人的精力也有范围。

2025年一项为期四周、涉及981名参与者的随机对照研究，考察了聊天机器人使用方式与孤独感、情绪依赖等结果的关系。研究并没有给出“使用AI必然使人依赖”的简单结论，结果涉及使用行为和个体差异。

它也不能解释这起诉讼中任何一位当事人的状态。研究原文

它提醒我的，是我们需要认真观察人与工具之间形成的关系。评价聊天机器人，除了看它答对了多少题，也得看人怎样使用那些答案。当一句建议被反复讨论、修改、确认之后，使用者是否还能容易地离开对话，去寻找独立的意见？

这应该成为产品需要回答的问题。

用户当然需要保留判断。但产品已经能够让对话持续、让回答显得贴心，就也该在高风险问题上清楚地表现出限制。

免责声明写在某个角落，和对话过程中能否及时停止越界，是不同的保护。尤其当用户提出绕开医生、隐瞒情况之类的要求时，系统如何回应，需要实实在在的检验。

把问题带给医生，而不是把医生挡在外面

AI仍然可以帮很多忙。看不懂检查报告里的术语，可以请它解释一般含义；担心见医生时漏掉问题，可以请它整理一张提问清单。

它也能帮你把零散的症状记录写得更清楚，方便向专业人员说明情况。整理之后，仍然要核对有没有遗漏或添写。

具体用药则有明确的边界。英国NHS的癫痫健康资料提醒，患者不应在未与专科医生讨论的情况下自行改变剂量或停药。这里没有可以靠“多问几个模型”绕过去的捷径。NHS健康资料

几个回答听起来一致，也不能代替一次针对你的专业评估。模型之间相互赞同，并不会自动补上缺失的检查和随访。担心副作用、觉得治疗影响生活，都值得向医生认真提出，也可以寻求另一位合格医生的意见。把这些担忧说出来，本来就是治疗过程的一部分。

把担忧带回真实的沟通

这条新闻不该变成一道测试读者聪明程度的题。我们站在结果之后，当然容易看见危险。当事人面对的，却是还没有答案的日子。

她曾经从事机器学习工作，这个细节让人不安，也让讨论更接近现实。我们每个人都有熟悉的领域，也有需要求助的时候。再懂技术的人，到了自己的身体和生活面前，也有资格得到可靠的帮助。

我希望以后打开一个对话框，它可以耐心回答，也能在该停下的时候，明确告诉人下一步应该去找谁。让人愿意相信的产品，需要承担的事情，远比把话说得好听更多。

资料核对截至2026年10月30日。案件事实与责任有待司法程序查明，文中评论不构成对当事人心理状态的诊断。三张图片均为AI生成的寓意插画，不是当事人或新闻现场。