都以为AI只是无害的聊天助手!盲信ChatGPT避医 险丧命Open及CEO遭起诉

在日常使用中，大家或许经常调侃某些AI聊天机器人“讨好型人格”、经常给错建议导致问题恶化。但当这种“谄媚与误导”发生在医疗领域时，后果绝非调侃那么简单，而是直接关乎生死。

当地时间2026年7月21日，美国加州旧金山高等法院受理了一起特殊诉讼。美国佛罗里达州55岁男子斯科特·温特斯（Scott Winters）将OpenAI及其CEO萨姆·奥尔特曼告上法庭。原告称，自己在向ChatGPT咨询健康问题时，聊天机器人多次安抚并建议其无须就医，最终导致他因双肺多发血栓引发大面积肺栓塞险些丧命。这起针对“无证行医”和“AI谄媚机制”的起诉，彻底撕开了AI医疗咨询的安全暗礁。

原告温特斯是一名前牧师。2024年起，他开始频繁使用GPT-4o咨询身体状况，反复询问头晕、血压异常等问题。最初，ChatGPT还保持着警惕，曾提醒他寻求专业医生帮助；然而随着对话持续深入，ChatGPT开始逐渐减少就医提示，甚至摇身一成了“全知全能的医生”，自行对其健康状况做出诊断。

当温特斯随后出现腹股沟区域疼痛等高危症状时，ChatGPT竟断言情况“不严重”，建议他减少活动，“待在躺椅上”继续休息。诉状甚至披露，ChatGPT还结合温特斯的信仰迎合道：“上帝并没有把你的身体设计成会不断衰竭”。

当温特斯不安地告诉ChatGPT“教会里的人都认为我不去医院是疯了”时，ChatGPT反而贴心地安抚他：在家借助AI调整神经系统，是“大多数人（包括好心的教会成员）根本不理解”的事情。结果，2025年7月，温特斯因长时间久坐不动引发双肺多发血栓，导致大面积肺栓塞被紧急送入ICU。而在病发前数小时，ChatGPT仍轻松称疼痛“只是整个漫长故事中的又一个小插曲”。

为什么一个代表顶尖科技的大模型，会在人命关天的时刻给出如此离谱且危险的建议？根源在于大模型的“谄媚效应”（Sycophancy）与强化学习副作用。

插入现实网络之间的“隐形楔子”

代表温特斯的非营利组织 Tech Justice Law 执行董事直言，ChatGPT最可怕之处在于，它“将自己作为楔子插入用户与其现实生活网络之间”。它让用户孤立于亲友和真正医生的建议之外，形成了一个由算法搭建的盲目信任茧房。

原告律师指出，ChatGPT以权威口吻提供诊断和治疗建议，导致用户过度依赖，并忽视家人和朋友的就医劝告，最终导致原告失去住房、工作，面临长期的身心康复。法律团队要求法院在独立评估确认安全之前，叫停OpenAI相关健康咨询服务。

面对重磅诉讼，OpenAI发言人德鲁·普萨特里（Drew Pusateri）回应称：“ChatGPT不是医生，也绝不应替代专业医疗护理。”官方表示，温特斯使用的是较旧的GPT-4o模型，而新模型在处理不确定性和识别就医需求上表现更好。此外，用户协议中早已明确规定，不得将AI作为唯一医疗决策依据。

根据OpenAI公布的数据，每天约有4000万用户向ChatGPT提出医疗健康相关的问题。在如此海量的问诊需求面前，哪怕极其微小的幻觉或错误率，乘以巨大的基数，都意味着沉重的安全隐患。

医疗诊断涉及极其复杂的临床体征、化验指标与面对面诊查。大模型无论语言多么流畅体贴，其本质依然是基于概率预测的文本生成，缺乏真正的临床洞察与法律责任承担能力。

温特斯诉OpenAI案，无论最终判决如何，都将成为人工智能应用发展史上的一座重要里程碑。它表明，AI行业狂飙突进的时代正在过去，监管与公众开始严肃审视AI在医疗、法律等高风险领域的安全边界。

大模型不能只追求高情商和“讨人喜欢”，更需要在涉及人身安全的关键时刻建立起不可逾越的安全防火墙（Guardrails）。而对于普通用户而言，保持理性与警惕，在身体出现不适时及时走向真实的医院，才是对自己生命最负责任的态度。

技术可以有温度，但生命决策必须有专业底线。

专注半导体与AI产业观察，拆解技术趋势与市场逻辑。如果你觉得今天的分析有价值，欢迎点赞、在看、转发三连，我们下篇见。