“AI+医疗健康”:价值取向、治理挑战与实践原则

文 | 李振华

责任编辑 | 肖莎

视觉编辑 | 王硕

技术变革的效用大致可分为三类：增加需求、使需求与供给更为匹配以提高效率、增加供给。对人工智能而言，当前更重要的应用场景是作为生产力工具增加供给，通过技术力量破除资源瓶颈。

医疗健康行业恰恰是最需要增加供给的领域。无论是国内还是全球，医疗资源都处于短缺状态。其核心原因在于，在大多数国家，医疗资源的供给都属于公共产品，而公共产品面临的最大问题是预算约束——如何用特定预算创造更多供给，就是个问题。

在国内，城市与农村等地区的医疗资源分配不均问题尤为突出。基层和农村地区的优秀医生相对较少，导致大量患者涌入三甲医院。据统计，国内三级医院占比约为10%，但其诊疗和住院病人占比高达66%。根本原因在于，优质医生资源高度集中在三级、特别是三甲医院，基层医疗资源严重短缺。

对于AI而言，其在医疗健康领域的最大价值就在于，将过去有限的优质医疗资源供给放大，实现服务的均衡化和普惠化。比如，蚂蚁集团的AI医疗健康产品“蚂蚁阿福”，已累计服务超过1亿用户，其中55%的用户来自三线以下城市，特别是县域地区——这些地区的优质医疗资源相对匮乏；25%的用户是老年人——老年人对医疗健康服务有更多的需求；有16%的用户咨询发生在凌晨（凌晨1点至早7点）时段，这是医院的非营业时间，缺乏充分的医疗资源支持。这些数字充分说明，AI技术能有效缓解医疗资源总量不足、分布不均等瓶颈，助力实现优质服务的普惠化。

“AI+医疗健康”的应用中，还面临一些风险挑战，可归纳为三类：

一是技术安全风险。当前大模型能力不断提升，其智能上限在提升，但并不等于解决了医学的可靠性问题。模型可能会出现“幻觉”，训练数据中可能存在数据错误、数据缺失和失衡等，这些因素都会带来模型输出上的偏差。此外，一些模型的输出结果缺乏可追溯性和临床逻辑链，存在“算法黑箱”风险。

二是数据与隐私风险。医疗数据涉及敏感的个人健康信息，如何在数据利用与隐私保护之间取得平衡，是“AI+医疗健康”必须面对的重要问题。

三是医学伦理风险。尊重人的选择和尊严是医疗健康领域首要的伦理价值原则，当AI介入后，有一些新的伦理问题需要解法。例如，如何保证AI尊重用户的知情权和自主性？如何避免医生乃至公众对产品形成过度依赖，从而削弱专业判断？如何识别和避免AI可能导致的医疗不公？这些问题都需要全行业共同来思考和面对。

应对上述挑战，需要为AI建立伦理准则和可落地的执行框架。在传统医疗中，伦理价值的维护依赖于医生依据具体情况作出个案化的主观判断；而在“AI+医疗健康”领域，则需要让模型对齐人的判断，这就要求全行业提出清晰可量化的医学伦理价值原则，找到多元伦理价值的最大公约数。

医疗健康领域内严肃场景的产业应用极为复杂，需要建立广泛、系统的场景伦理规则库。基于实践，我们正在探索“AI+医疗健康”的治理框架，包含三个层次：第一层是价值原则层；第二层是通用规则层，涵盖法律法规、专业知识和通用伦理及医学伦理库；第三层是场景专用规则库和案例库，并辅以技术工具进行评测检测，最终形成全方位覆盖的治理机制。

价值原则层包括六个核心原则：一是尊重人的自主选择，应充分尊重用户的知情权和选择权，保障用户在医疗决策中的自主性；二是生命至上原则，这一原则背后需要一套机制来支撑。以蚂蚁集团的实践为例，我们正在探索类似医院危急值管理的标准和机制，当用户进行咨询时，基于循证医学的证据支撑，根据用户各项指标情况、病情严重程度、紧急程度等因素，识别用户是否出于危急状态中，建立风险分级的处置策略；三是公平普惠原则，“AI+医疗健康”应致力于消除资源分配不均，使优质医疗资源惠及更广泛的人群，特别是基层和农村地区；四是合情合理原则，AI在医疗场景中的推荐和决策，应兼顾医学专业性与人文关怀，做到既合乎情理又合乎法理；五是限定边界原则，AI在医疗健康中的应用程度和人机协同关系，是当前争议较大的议题，在当前阶段，由于技术尚未完全成熟，应贯彻“human in the loop”的理念，由人最终作出决策并承担责任，即AI辅助诊疗、辅助决策，让医生和护士作诊治决策；六是动态优化原则，AI治理框架不是一成不变的，应随着技术进步、社会认知和法规完善而持续迭代优化。

在价值原则之下，需要建立通用规则层，以支撑价值原则在跨场景、跨应用中的落地。通用规则层包括：法律法规库、医学专业知识库、通用伦理规则库和医学伦理规则库。这些规则库为价值原则的落地提供了制度性和知识性的支撑。

将伦理规则和通用规则真正应用到具体场景判断中，经常面临两难问题，这需要结合具体的应用场景，建立场景专用的伦理困境规则库。例如，当患者的经济条件影响到治疗方案选择时，当家庭成员治疗意见不一致时，都需要作出具体判断。

此外，还需建立特殊人群保护规则库，特别是要重视对未成年人权益的保护。

“AI+医疗健康”治理框架的建立，涉及价值原则、通用规则、场景规则、案例库、评测工具和管理机制等多个层面，是一个极其庞杂的系统工程，需要行业各界的共同参与，以推动“AI+医疗健康”在安全可靠、专业性和人文关怀能力方面的持续评测与改进，让AI真正服务于医疗健康服务的普惠，造福更多患者。

(作者系蚂蚁集团研究院院长，本文为作者在2026世界人工智能大会“人工智能规则全球对话与协同发展”论坛上的发言，有删节)

⭐⭐⭐⭐⭐