伴随着医疗大模型、AI 辅助诊断系统大规模走进医院、消费端健康平台,AI 生成错误诊疗意见、出现模型幻觉、漏诊误诊的案例持续增多。一个关键难题摆在行业面前:人工智能本身不具备法律主体资格,当 AI 输出误导性建议并最终造成患者损害,损害赔偿责任究竟如何划分?医生、医疗机构、AI 研发企业、普通使用者,各方责任边界在哪里?

01 AI 只是工具,无法独立承担法律责任
依据我国《民法典》,能够承担民事侵权责任的主体仅包含自然人、法人与非法人组织。人工智能算法、大模型、辅助诊断系统不属于法律意义上的责任主体,无法独立成为被告,不能直接承担赔偿责任。这一条划定了所有纠纷判定的底层逻辑。
通俗来说,AI 类似于听诊器、CT 设备这类医疗器械。工具本身不会担责,纠纷裁决核心是溯源:错误产生的根源,究竟是算法本身存在缺陷,还是使用者过度依赖、未尽到人工复核义务。
同时需要区分两类场景,二者判定标准截然不同:
一类是医疗机构内持证医师使用合规 AI 医疗器械开展辅助诊疗;另一类是面向普通大众的消费级 AI 健康咨询工具,无执业医师参与。很多大众容易混淆 "健康咨询" 与 "临床诊断",这也是大量纠纷产生的源头。通用大模型输出的健康建议,不能等同于正规医院诊疗结论。
02 人机协同模式下,多方责任如何划分
在医院场景,AI 作为辅助决策工具,执行 "人在环路"(human-in-the-loop)原则,医生拥有最终诊疗决策权。结合国内司法实践与《民法典》相关规定,责任分为三种典型情形。
情形 1:医生盲目采信 AI 结论,未履行专业复核义务
这是目前医疗纠纷中最常见的情况。AI 给出参考诊断方案,接诊医生未结合患者病史、体征、其他检查结果综合研判,直接照搬 AI 结论,最终造成漏诊、误诊。
参考国内典型判例:2025 年,上海某三甲医院引进 AI 影像诊断系统辅助分析胸部 CT。一名患者检查后,AI 系统在报告中明确标注 "右肺上叶结节,建议进一步检查",但接诊医生未予重视,仅建议定期复查,未安排增强 CT 或穿刺等进一步检查,病历中亦未记录 AI 提示内容。患者后于外院确诊晚期肺癌。法院最终判定医疗机构承担赔偿责任(赔偿金额约 127 万元),核心理由为:医生未对 AI 提示的风险给予足够重视,未尽到与当时医疗水平相应的诊疗义务。
责任判定:医疗机构承担首要赔偿责任。医生作为最终决策人,负有审慎审查义务;医院需要建立 AI 使用规范、完善操作留痕,内部可对失职医生追责,但不能以此对抗患者。
情形 2:错误根源来自 AI 产品原生缺陷
如果经过第三方技术鉴定证实:误诊源于算法设计漏洞、训练数据存在严重偏倚、模型未充分验证、产品超出注册适用范围等原生问题。例如训练缺少亚洲人群病例,导致特定人群识别持续出错。
此时应适用《民法典》第 1223 条(原《侵权责任法》第 59 条)关于缺陷医疗产品责任的规定。该条规定:"因药品、消毒产品、医疗器械的缺陷造成患者损害的,患者可以向生产者请求赔偿,也可以向医疗机构请求赔偿。患者向医疗机构请求赔偿的,医疗机构赔偿后,有权向负有责任的生产者追偿。"
责任判定:医疗机构与 AI 研发企业对患者承担不真正连带责任。患者可直接向医疗机构索赔;若损害系因 AI 产品缺陷所致,医疗机构赔付后有权向 AI 研发企业追偿。前提是该 AI 产品依法取得医疗器械注册证;若企业售卖无证医疗 AI 产品,将承担更重的法律责任。需要指出的是,根据《产品质量法》第 46 条,"缺陷" 是指产品存在 "不合理的危险" 或不符合保障人体健康的国家标准、行业标准。
情形 3:医生充分履行复核义务,仍然难以规避风险
面对罕见病、不典型病例,医师综合所有信息、按照诊疗规范审慎判断,AI 与人类医生均出现判断偏差,属于现代医学客观存在的医疗风险。这种情况一般不认定存在过错,无需承担侵权责任。
03 消费端 AI 健康咨询:大众线上问诊的责任盲区
OpenAI 于 2026 年 1 月推出的 ChatGPT Health、各类 AI 健康小程序等 C 端产品持续普及,新的责任争议不断涌现。这类产品大多明确标注:仅作健康科普参考,不构成诊疗建议,不能替代执业医师。
普通用户自行使用 AI 工具,未就医:用户自主依据 AI 建议自行用药、延误就诊,产生健康损害,主要风险由使用者自行承担。但如果平台刻意夸大 AI 诊疗能力、刻意隐瞒模型局限性,平台运营方需要承担相应过错责任。
线上互联网医院模式:AI 仅作为前置信息采集工具,最终由执业医师审核并出具诊疗方案。一旦发生诊疗失误,责任主体为互联网医院及执业医师。
这里存在显著监管难点:大量通用大模型没有医疗器械注册资质,却开放健康问答功能,极易让普通人混淆 "咨询" 和 "诊断",行业合规灰色地带持续存在。
04 三大难题阻碍责任判定落地
1. AI "黑箱特性",错误溯源难度极高
传统医疗设备故障容易定位,而生成式医疗大模型存在天然黑箱问题。出现错误诊疗建议时,很难区分:究竟是模型幻觉、输入信息不足、数据偏差,还是使用者人为失误。缺少标准化的算法鉴定体系,导致大量纠纷难以举证。可解释 AI(XAI)技术、链式思维推理(Chain-of-Thought)框架,正是为了解决推理链路无法追溯这一痛点。
2. 持续自学习 AI,带来监管挑战
传统医疗器械定型后参数固定;但不少医疗大模型支持线上持续迭代、增量学习。模型上市注册完成后,后台算法悄然更新,更新后产生的新错误,责任归属暂无清晰法规界定。国家药监局(NMPA)已发布《人工智能医疗器械注册审查指导原则(2022 年及后续修订版)》,对深度学习算法的更新控制提出审查要求,但针对生成式大模型持续学习的全生命周期监管框架仍在完善中。
3. 权责失衡抑制临床使用意愿
不少临床医生存在顾虑:使用 AI 增加纠纷风险,一旦出错需要承担责任,却很难享受技术带来的收益。这种心态造成部分医疗机构对 AI 医疗工具持保守态度。如何平衡技术创新风险与医务人员保护,是政策制定需要考量的重点。
05 技术、合同、监管协同搭建风险屏障
想要理清 AI 医疗责任,不能单纯依靠事后诉讼,需要建立全流程风险防控体系。
技术层面:优先发展可解释 AI、链式思维推理框架,完整留存 AI 输入信息、输出结论、置信度、推理链路,做到全程可追溯;系统主动标注局限性、不确定病例,减少过度自信式的错误输出。
商业合作层面:医院与 AI 厂商签订采购协议时,明确算法缺陷对应的赔偿条款、模型迭代告知义务、不良事件上报机制,提前划分风险。但需注意,采购合同中的责任约定不能对抗患者依据《民法典》第 1223 条直接向医疗机构主张的权利。
医疗机构管理层面:建立标准化制度,明确 AI 仅作辅助,严禁直接采用 AI 结论作为最终诊断;完整留存人机交互记录,定期开展医务人员培训。
监管层面:持续完善 AI 医疗器械全生命周期监管,区分高风险诊疗 AI 与普通健康咨询工具,推动建立第三方算法技术鉴定机制,填补立法空白。
点击“阅读原文”关注更多前沿资讯

点个在看你最好看
夜雨聆风