ARTICLE · 1302507
美国医学会发布临床 AI 责任框架:AI 厂商、医疗机构与医师三方共担
美国医学会发布临床 AI 责任框架:AI 厂商、医疗机构与医师三方共担
这家医师倡导组织表示，医师仍应负责行使临床判断，开发者应对设计安全的AI 工具负责；与此同时，部署方负责为具体临床场景选择合适的工具、为医师提供培训并监测 AI 的运行表现。 AMA数字健康与人工智能中心主任 Jennifer Goldsack 在访谈中表示，当前医师正被要求充当安全网，防范可能伤害患者的临床 AI 失效，但这意味着他们可能要为无法控制的风险担责，而这些风险“在某些情况下甚至可能无法识别”。 深入分析 临床AI 工具正被广泛采用，以支持临床决策，并减轻常导致临床医生职业倦怠的行政负担。然而，AI 工具出错时由谁担责，是医师最为关切的问题之一。AMA 今年早些时候发布的一项调查显示，三分之一的医师将“明确的责任框架”列为采用 AI 的首要驱动因素。 Goldsack表示，正是这一调查结果，加之 AI 责任界定不清可能导致患者受伤害的隐患，促使 AMA 制定了这一最新框架。 “这一框架将确立一套评判准则，让每一个利益相关方都明确自身的责任，在其有能力降低风险的环节主动落实最佳实践。”她说。 根据该框架，医师在使用AI 时必须行使临床判断，包括审查 AI 输出的结果，并在必要时否决 AI 的建议。但 AMA 强调，对于医师无法控制的 AI 错误，不应由医师担责。 Goldsack举例说明：如果医师基于一款 AI 驱动的临床决策支持工具给出的建议制定了治疗方案，而该工具在形成建议时未能纳入关键数据，且医师无从察觉这一错误，那么医师不应为由此可能发生的患者伤害承担责任。 根据AMA 框架，开发者应确保其工具给出安全、准确的建议，并确保医师等用户能够识别和应对错误。为此，用户需要获得关于预期用途、性能与局限性的信息，而不仅仅是警告和免责声明。 Goldsack表示，免责声明不足以防范临床 AI 工具可能造成的伤害。相反，AMA 框架建议明确伤害风险所在、由哪个利益相关方能够预防该风险，以及该方为此需要哪些信息。 临床AI 的第三类责任主体是部署方，即部署这些工具的医疗机构，包括医疗系统、医院和医师执业机构。它们在选择和实施 AI 工具方面发挥着关键作用。根据 AMA 框架，部署方负责在要求医师使用工具之前对其进行评估，并提供必要的培训。 目前，医疗系统在培训方面似有欠缺：2026年 AMA 调查显示，四分之一的医师未接受过任何 AI 培训，92% 的医师希望获得更多培训。 除培训之外，部署方还需持续监测工具的运行表现，以防AI 模型随时间推移出现准确度下降，并建立应对不良事件的流程。 该框架不仅旨在界定各利益相关方在降低临床AI 风险中的角色，还明确指出：遭受伤害的患者应在 AI 失灵时获得寻求救济的途径。据 Goldsack 所说，这包括获得赔偿。 “医生要使用AI获得正确的结果，不仅能在患者可能受到伤害的情形下保护他们，使其能够向恰当的责任方寻求赔偿；更重要的是，这将大大降低患者从一开始就受到伤害的可能性，因为每个利益相关方都清楚自己该负什么责任。”她说。 随着临床AI 的演进，AI正在某些场景下逐步获得自主行动的能力，AI 公司与医师之间关于谁应为错误承担主要责任的分歧与博弈也正日趋激烈。 在最近提交给美国食品药品监督管理局（FDA）的意见中，包括AMA 在内的多家医疗服务提供方组织表示，使用生成式 AI 的医疗设备应由 AI 开发者负责监测。他们认为，让服务提供方承担这一负担将造成过大压力，尤其是小型和农村地区的医疗服务机构。 注：上述意见是对FDA 拟议的生成式 AI 医疗器械监管思路的反馈，凸显出在行业探索如何治理这一快速演进的技术之际，医疗服务提供方急于限定自身法律责任与医疗事故诉讼风险的立场。 
END 
数实引擎 
美国医学会（AMA）认为，临床人工智能的开发与部署涉及诸多医师无法控制的环节，不应期待医师充当临床AI 与患者伤害之间的最后防线。
美国医学会（AMA）上周发布的一份简报指出，医师、AI开发者以及部署临床 AI 工具的医疗机构，对确保工具不造成患者伤害均负有各自不同的责任。
原文：AI vendors, health systems join physicians in liability for clinical AI
出处：healthcaredive
扩展阅读
