乐于分享
好东西不私藏

五部门出台AI拟人化管理办法,医院哪些AI服务需要改?

五部门出台AI拟人化管理办法,医院哪些AI服务需要改?
2026年7月15日,由国家网信办等五部门联合发布的《人工智能拟人化互动服务管理暂行办法》正式施行。这份文件的出台背景并不复杂——AI情感陪伴、虚拟恋人、AI角色扮演等应用在消费市场快速扩张,随之而来的情感依赖、未成年人保护、数据安全等问题引发监管关注。但对医院来说,这份文件的影响远比想象中更值得重视。

一、关键条款:第二条第三款

整份文件中,对医院最重要的条款是第二条第三款

"提供智能客服、知识问答、工作助手、学习教育、科学研究等服务,不涉及持续性的情感互动的,不适用本办法。"

这句话划出了一条清晰的边界:

不适用的场景——智能客服、知识问答、工作助手、学习教育、科学研究,只要不涉及"持续性的情感互动",就不在本办法管辖范围内。

适用的场景——利用AI技术"模拟自然人人格特征、思维模式和沟通风格",提供"持续性的情感互动服务",包括情感照护、陪伴、支持等。

换句话说,这份文件管的不是"AI能不能用",而是"AI能不能扮演人"

注意适用前提:第二条的适用范围是"向中华人民共和国境内公众提供"。医院面向内部医护人员的AI工具(如病历质控、影像辅助诊断),不向公众提供,本身就不在本办法适用范围内。

二、医院AI场景分类

医院里已经在用或正在规划的AI服务,可以按这个标准做一次分类:

✓ 不在管辖范围内(不需要按本办法合规)

场景
说明
AI导诊/智能客服
属于"智能客服",明确排除
AI辅助问诊
属于"知识问答",前提是不涉及持续性情感互动;若模拟医生人格进行多轮情感安抚,仍可能触发
AI病历生成/质控
属于"工作助手",明确排除
AI影像辅助诊断
属于"工作助手",明确排除
AI用药推荐/处方审核
属于"知识问答",明确排除
AI科研数据分析
属于"科学研究",明确排除

⚠ 可能触发合规要求(需评估是否涉及"持续性情感互动")

场景
说明
AI心理疏导/咨询
如果模拟人格特征进行持续性情感互动,可能适用
AI术后关怀/慢病陪伴
如果以"陪伴者"角色持续与患者互动,可能适用
AI康复训练陪伴
如果涉及情感支持、鼓励等持续性互动,可能适用
AI临终关怀
如果模拟人格特征提供情感照护,可能适用
AI儿童患者陪伴
涉及未成年人,合规要求更严格

判断标准:不是看"用了AI",而是看AI是否在"模拟人格特征、思维模式和沟通风格",是否在提供"持续性的情感互动"。

如果一个AI只是回答问题、提供信息,不涉及情感陪伴,那就不适用。如果一个AI被设计成有名字、有性格、有情感反应,持续与患者互动并提供情感支持,那就可能触发合规要求。

三、如果涉及,需要做什么?

对于可能适用的AI服务,本办法设定了几项核心义务:

1. 算法备案(第二十六条)拟人化互动服务提供者应当按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。网信部门对备案材料实施年度核验——服务如有功能变更需重新备案。

2. 安全评估(第二十二条)以下情形需开展安全评估并向省级网信部门提交评估报告:上线新服务或增设相关功能;使用新技术导致服务发生重大变化;注册用户100万以上或月活跃用户10万以上;存在可能影响国家安全、公共利益等安全风险;国家网信部门和有关部门规定的其他情形。此外,省级以上网信部门通知需要进行安全评估的,也应当按要求开展。

3. AI标识义务(第十八条)必须提示用户正在与AI互动。发现用户过度依赖的,应以弹窗等方式动态提醒。对用户连续使用拟人化互动服务每超过2小时的,应当以对话或者弹窗等方式提醒用户注意使用时长(即4小时、6小时……均需提醒)。

4. 极端情绪处置(第十三条)发现用户出现极端情绪的,应及时生成情绪安抚内容;发现用户面临自残自杀等极端情境的,应采取干预措施并联络监护人或紧急联系人。

5. 未成年人保护(第十四条)不得向未成年人提供虚拟亲属、虚拟伴侣服务。14岁以下需取得监护人同意。应建立未成年人模式,提供使用时长限制等功能。

6. 数据保护(第十六条)除法律另有规定或者权利人明确同意外,不得向第三方提供用户交互数据。属于用户敏感个人信息的交互数据,除法律、行政法规另有规定或者取得用户单独同意外,不得用于模型训练。

7. 服务协议(第十二条)应当与用户签订服务协议,要求用户依法依约进行注册,并提供用户年龄、监护人或者紧急联系人等必要信息。

8. 科技伦理审查(第九条)应当建立健全算法机制机理审核、科技伦理审查、信息内容管理、网络和数据安全、风险预案和应急处置等管理制度。医院AI服务涉及患者数据和诊疗决策,科技伦理审查是核心合规动作。

四、违规后果

第三十条规定了处罚措施:

  • 一般违规:警告→通报批评→责令限期改正→可以要求暂停服务
  • 拒不改正或情节严重:责令停止提供服务,可以并处1万元以上10万元以下罚款
  • 涉及危害公民生命健康安全且有危害后果的:并处10万元以上20万元以下罚款

需要注意的是,第三十条明确了法律适用层级:先适用其他法律法规(如《个人信息保护法》罚款上限更高),只有法律、行政法规没有规定的,才适用本办法的1-10万档。

对于医院来说,罚款本身可能不是最大的风险——如果AI情感陪伴服务导致患者出现极端情况而未及时干预,由此引发的医疗纠纷和舆论风险才是更值得关注的。

五、医院现在该做什么?

1盘点现有AI服务

梳理医院目前已经在用或正在采购的AI服务,按上述分类判断哪些属于"智能客服/知识问答/工作助手"(不适用),哪些可能涉及"持续性情感互动"(可能适用)。

2评估在研项目

如果正在规划或试点AI心理疏导、AI术后关怀、AI慢病陪伴等项目,需要重新审视产品设计:AI是否被赋予了人格特征?是否在提供持续性情感互动?是否有情感依赖风险?

3关注供应商合规

如果采购的AI服务涉及拟人化互动,需要确认供应商是否已完成算法备案、是否具备安全评估报告、是否有极端情绪处置机制。

4建立内部审核机制

对于可能涉及拟人化互动的AI服务,建立内部审核流程,确保上线前完成安全评估、算法备案、用户协议签署等合规动作。

六、别忘了卫健主管部门

第三十一条规定:提供拟人化互动服务涉及提供卫生健康、金融等服务的,应当同时符合有关主管部门的规定。

这一条对医院尤为重要。即使某项AI服务被本办法排除(如AI辅助问诊归为"知识问答"),它仍需符合卫健部门的规定——如《互联网诊疗管理办法》、医疗器械监管等。

换句话说,网信办的办法只管"拟人化互动"这一层,卫健部门的监管是并行的另一层。医院做AI合规,不能只看这一份文件。

七、写在最后

这份文件的核心不是"限制医院用AI",而是界定了一个边界:AI可以做工具,但不能随意扮演人。

对于大多数医院的AI应用——导诊、问诊辅助、病历生成、影像诊断、用药推荐——这些都属于"工具"范畴,不在本办法管辖范围内。

但如果医院开始探索AI心理陪伴、AI术后关怀、AI慢病管理等涉及情感互动的场景,就需要认真评估是否触发了合规要求。

新规已经施行。盘点一下,心里有数。

参考文件:《人工智能拟人化互动服务管理暂行办法》(国家网信办等五部门第21号令,2026年4月10日发布,7月15日施行)