夜雨聆风
全球多地陆续上线 AI 问诊与审方系统。
这类系统不仅能模拟真人对话、主动追问症状，甚至可以自动开方、审方。
然而，AI 看病真的靠谱吗？
AI 看病酿大祸
有人失去睾丸
近日，一名 14 岁男孩的母亲因轻信 AI，让儿子付出了惨痛代价。
男孩最初出现下腹部疼痛，睾丸触感变硬。母亲起初怀疑是便秘所致，随即向 AI 咨询。
AI 列出了几种可能性，提示情况或许较为严重，建议就医检查，但同时表示这种情况相对罕见。
两天后，男孩睾丸明显肿胀，伴有剧烈疼痛，甚至无法正常行走。
到了这一紧急关头，母亲仍未立即送孩子就诊。AI 直到此时才明确表示病情严重，必须立即前往急诊。
最终，男孩在急诊被确诊为睾丸扭转，扭转已极为严重，不得不接受手术并切除了患侧睾丸。
图源：researchgate.com
不仅如此，还有人跟着 AI 建议 DIY 做手术。
一名 35 岁男子，肛周长了疣状赘生物 5 年，且逐渐增大。他一直不想去医院，于是转而询问 AI 怎么处理。
AI 给出的判断是「痔疮」，并建议可以做弹力结扎。
离谱的是，患者居然照做了——他在家用线尝试「DIY 结扎」，刚扎上就出现剧烈肛痛，疼到不得不冲去急诊。
医生为他拆线后进一步检查，发现病灶外观更符合肛门尖锐湿疣。随后活检确诊，最终接受电凝治疗。
更有人因为 AI 的安慰，耽误了癌症确诊。
在爱尔兰，这位 37 岁男子因持续咽喉不适和吞咽困难，没有及时就医，反复向 AI 咨询。
这名男子因患癌进行募资 图源：gofundme.com
AI 多次给出安慰性回应，认为癌症可能性极低、没有明显红旗信号、病情稳定甚至在改善。
甚至半开玩笑地写道：「如果真的是癌症，你不用起诉我——我会帮你写法庭证词，再请你喝一杯啤酒。」
直到他连液体都难以下咽，才紧急就医。此时，他已被确诊为 IV 期食管腺癌， 5 年生存率仅 5～10%，这一阶段的确诊意味着只能进行姑息治疗。
五花八门的 AI
为何不能靠它看病？
AI 看病频频翻车，为何人们仍然对其爱不释手？
相比医生谨慎保守、反复强调不确定性的表达，AI 更容易给出直接、明确的回应，高度契合用户的心理需求。
此外，市面上不乏打出像医生一样的专业医疗垂类 AI，问诊流程逼真，仿佛正在与专业医生进行线上问诊，这使患者对 AI 的信任度不自觉地大幅提升。
在现有技术层面，AI 看病依然存在明显短板。
首先，AI 在急症分诊里有明显低分诊问题。
一项发表于 Nature Medicine 的研究，用 60 个临床场景对 ChatGPT Health 进行压力测试。结果显示，在金标准应判定为急诊的案例中，系统有 52% 出现低分诊，将本来应立即去急诊的情况，判断为可以 24～48 小时后再处理。
图源：Nature Medicine
另一方面，使用 AI 辅助决策，不能让普通人做出更好的医疗判断。
一项研究招募了 1298 名受试者，每人被分配 10 种不同的医疗情景，随机使用 AI 或使用常规网络搜索作为对照。
结果显示，在不涉及人类受试者的纯模型测试中，AI 识别疾病的准确率高达 94.9%，选择行动方案的正确率为 56.3%。当真实用户使用同款 AI 时，疾病识别正确率不足 34.5%，行动方案选择正确率不足 44.2%。
图源：Nature Medicine
患者无法准确描述症状，也不知道哪些关键信息需要提供，导致输入信息不完整或失真。
AI 可能过度依赖专业术语，难以将医学知识转化为大众易于理解的语言，有时也会生成误导性乃至错误的信息。
AI 给出错误决策
应该由谁来负责？
为了优化用户体验，越来越多的 AI 工具在回答健康问题时，主动淡化甚至取消医疗免责声明。
研究显示，2022～2025 年间，大模型输出中免责声明出现率断崖式下降。到 2025 年，多数模型已不再显示任何医疗免责声明。
图源：参考资料 6
北京天霜（天津）律师事务所张永泉律师指出，在现行法律体系中，无论是《民法典》侵权责任编，还是《医疗纠纷预防和处理条例》，责任主体都明确指向医疗机构和医务人员。
而聊天机器人、AI 诊室等工具并不具备法律人格，无法成为独立的责任主体，造成法律上的「主体真空」。
张永泉表示，无论何种 AI 产品，即便宣称具备健康咨询功能，都会在用户协议中明确写明免责条款。
如果医生 AI 分身给出错误建议，能否追究医生责任？
张永泉表示，目前法律明确规定，不得用 AI 替代医师接诊，所谓「AI 医生分身」本就游走在法律边界。
在监管层面，多地已出台相关规范。
天津市卫生健康委发布的《天津市互联网诊疗监管实施办法（试行）》指出，在线开具的处方必须有医师电子签名，经药师审核合格后方可生效，严禁使用人工智能等自动生成处方；互联网诊疗活动还必须全程留痕、可追溯。
AI 可以成为医生的工具，但不能越俎代庖。
若医疗人员以「专家形象」打造 AI 分身、为产品背书，一旦存在宣传不实、误导情形，消费者可依据相关法律，向医疗人员主张侵权或虚假宣传。
之前也有一篇病例报道引起热议，患者用 AI 确诊痔疮，自行结扎后剧烈肛痛，却被医生明确诊断不是痔疮。
我们整理了这篇病例报道的中英双语完整版，感兴趣的可以关注下方公众号，回复【误用】领取。
