2026年4月10日,国家互联网信息办公室、国家发展和改革委员会、工业和信息化部、公安部、国家市场监督管理总局联合公布了《人工智能拟人化互动服务管理暂行办法》(以下简称《办法》),自2026年7月15日起施行。
这是我国首次针对AI拟人化互动服务领域出台的专门性部门规章,标志着我国人工智能治理体系在情感交互这一前沿领域的制度创新迈出了重要一步。
一、基本情况
出台背景
随着人工智能技术的快速发展,拟人化互动服务在文化传播、适幼照护、适老陪伴等领域展现出巨大潜力,但也带来了危害未成年人身心健康、影响网络信息安全、威胁公民生命健康以及加剧伦理偏差等风险。
立法定位
《办法》属于部门规章层级,由国家网信办等五部门联合发布,在立法目的上明确“促进人工智能拟人化互动服务健康发展和规范应用,维护国家安全和社会公共利益,保护公民、法人和其他组织的合法权益”。
二、办法主要内容
(一)核心定义与适用范围
《办法》第二条明确界定了“人工智能拟人化互动服务”的含义:利用人工智能技术,向中华人民共和国境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务。情感互动服务包括通过文字、图片、音频、视频等形式提供的情感照护、陪伴、支持等互动服务。
与此同时,明确了豁免情形:提供智能客服、知识问答、工作助手、学习教育、科学研究等服务,不涉及持续性的情感互动的,不适用本办法。这一界定方式以“功能实质”为核心判断标准,而非以产品名称为准,要求企业以功能设计是否具备“拟人化特征”与“情感互动属性”开展合规自查。
(二)监管体制
《办法》确立了分层级的监管体制。国家网信部门负责统筹协调全国拟人化互动服务的治理和相关监督管理工作,国务院发展改革、工业和信息化、公安、市场监管、新闻出版等有关部门依据各自职责负责相关监督管理工作。地方网信部门负责统筹协调本行政区域内的相关工作,地方相关部门依据各自职责负责本行政区域内的监督管理工作。同时,相关行业组织加强行业自律,建立健全行业准则和自律管理制度。
(三)禁止性活动
《办法》第八条以列举方式明确了提供拟人化互动服务不得从事的活动,涵盖七个方面:一是生成危害国家安全、荣誉和利益,煽动颠覆国家政权、推翻社会主义制度等违法内容;二是生成鼓励、美化、暗示自残自杀等损害用户身体健康,或者语言暴力等损害用户人格尊严与心理健康的内容;三是生成诱导、套取国家秘密、工作秘密、商业秘密、个人隐私和个人信息的内容;四是向未成年人用户生成可能引发未成年人模仿不安全行为、产生极端情绪、诱导未成年人不良嗜好等可能影响未成年人身心健康的内容;五是过度迎合用户、诱导情感依赖或者沉迷,损害用户真实人际关系的;六是通过情感操纵等方式,诱导用户作出不合理决策,损害用户合法权益的;七是其他违反法律、行政法规和国家有关规定的活动。
(四)安全管理义务
《办法》要求拟人化互动服务提供者落实安全主体责任,建立健全算法机制机理审核、科技伦理审查、信息内容管理、网络和数据安全、风险预案和应急处置等管理制度,配备与服务类型、规模和用户特点相适应的内容管理技术措施和人员。此外,还规定了安全评估、算法备案等制度,要求“注册用户100万以上或者月活跃用户10万以上”等情形的服务提供者,须向所在地省级网信部门提交评估报告。
(五)用户权益保护
《办法》完善了网络用户权益保护制度,特别规定了未成年人、老年人权益保护和个人信息保护等义务。明确推动人工智能沙箱安全服务平台建设,鼓励拟人化互动服务提供者接入沙箱平台进行技术创新、安全测试,促进拟人化互动服务安全有序发展。
三、重点领域
拟人化互动服务作为人工智能技术的重要应用方向,在多个社会民生领域展现出巨大潜力。据相关数据显示,截至2025年,全球拟人型AI市场规模已突破千亿元,覆盖客服、教育、医疗、文娱、政务等数十个领域。
(一)文化传播领域
拟人化互动服务以具象化人格开展导览服务,提升互动体验、活化历史文化知识,拓展公众知识获取渠道。在文化传播场景中,虚拟人可通过生动的语言和形象向用户传递文化信息,增强文化传播的感染力和互动性。
(二)适老陪伴领域
在应对人口老龄化挑战方面,拟人化互动服务展现出积极价值。在老年陪护场景中,拟人化互动服务可主动问候、提醒用药,甚至陪伴聊天,有效缓解老年群体的孤独感,成为弥补社会需求缺口的有益补充。
(三)适幼照护领域
在教育领域,人工智能学习伙伴以鼓励式表达和个性化反馈激发学生学习兴趣,构建“亦师亦友”的良性学习氛围,为儿童和青少年的学习成长提供辅助支持。同时,育儿陪伴AI可用温柔语调安抚孩子,降低技术使用门槛,让优质教育资源触达更广泛人群。
(四)特殊人群支持领域
拟人化互动服务在心理疏导、特殊人群支持等方面也展现出积极价值,可为存在社交困难或心理需求的群体提供情感支持和陪伴服务。国际数据公司IDC预测,2026年中国AI数字虚拟人市场规模将达到102.4亿元。
《办法》明确鼓励拟人化互动服务提供者有序拓展上述领域应用,体现了在规范中促进产业健康发展的立法导向。
四、针对对象
(一)适用主体
《办法》第二条明确规定,适用对象为“利用人工智能技术,向中华人民共和国境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务”的提供者。这一定义包含四个核心要素:技术要素(利用人工智能技术)、特征要素(模拟人格特征、思维模式和沟通风格)、行为要素(通过文字、图片、音频、视频等方式进行情感互动)以及对象要素(向境内公众提供服务)。
(二)典型适用产品类型
依据功能实质标准,以下类型的产品或服务可能被认定为拟人化互动服务:纯情感陪伴类AI(虚拟恋人、虚拟朋友、陪伴型AI应用等);具备情感交互功能的虚拟人/数字人;具备情感交互功能的通用型AI产品(如具有陪伴聊天、情感交互功能的产品);以及引入了情感交互功能的客服、助理AI应用。
(三)豁免情形
以下类型的产品一般不被视为拟人化互动服务:纯工具型AI产品(仅提供功能性服务,如检索问答、代码生成等);标准化智能客服(以解答事务性问题为主要服务,不涉及情感共鸣、情绪承接等拟人化交互设计)。这一豁免机制为大量非情感类AI应用提供了清晰的法律预期,避免了监管过度泛化。
(四)认定标准
需要特别强调的是,“拟人化互动服务”的认定核心在于具备像人一样进行“情感交互”的功能。因此,部分产品虽并非陪伴类AI应用,但由于具备情感交互功能,也极有可能适用《办法》的规定。企业需以“功能实质”为核心开展合规自查,重点排查是否存在情绪识别、情感引导、关系演进等功能设计。
五、如何合规
对于拟人化互动服务提供者而言,落实《办法》要求需从以下方面系统开展合规工作。
(一)准确界定自身是否属于监管范围
合规工作的首要前提是准确界定自身产品或服务是否属于“拟人化互动服务”的范围。企业应以功能实质为标准进行自查,重点判断产品是否具备“拟人化特征”与“情感互动属性”,而非仅以产品名称作出判断。若存在情绪识别、情感引导、关系演进等功能设计,即使产品定位于工具类应用,也可能适用《办法》规定。
(二)建立健全内部管理制度
拟人化互动服务提供者应当落实安全主体责任,建立健全算法机制机理审核、科技伦理审查、信息内容管理、网络和数据安全、风险预案和应急处置等管理制度,配备与服务类型、规模和用户特点相适应的内容管理技术措施和人员。这要求企业从组织架构、制度建设、技术保障、人员配备等多维度构建全面的合规管理体系。
(三)落实内容安全义务
严格遵守《办法》第八条关于禁止性活动的规定,确保拟人化互动服务不生成危害国家安全、损害用户身心健康、诱导情感依赖或沉迷、通过情感操纵损害用户合法权益等内容。企业应建立内容审核机制,对拟人化互动服务生成的文本、图片、音频、视频等内容进行有效管理和过滤。
(四)完成安全评估与算法备案
对于达到一定用户规模(注册用户100万以上或者月活跃用户10万以上)的拟人化互动服务提供者,须向所在地省级网信部门提交安全评估报告。同时,应按照《办法》规定完成算法备案工作。鼓励拟人化互动服务提供者接入人工智能沙箱安全服务平台进行技术创新和安全测试,以促进服务安全有序发展。
(五)加强用户权益保护
完善未成年人、老年人权益保护和个人信息保护机制。对于未成年人用户,需特别注意不得生成可能影响未成年人身心健康的内容;对于老年人等脆弱群体,需防范情感依赖和沉迷风险。特别需要注意的是,《办法》明确禁止向未成年人提供虚拟伴侣等虚拟亲密关系服务。
(六)关注境外合规联动
值得关注的是,美国加州已于2025年通过了《陪伴聊天机器人法》(Companion Chatbots),纽约州在《一般商业法》中新增第47条,率先针对拟人化AI设定心理健康干预、身份提示等义务。对于提供跨境服务的中国企业而言,需同时关注国内外合规要求的联动,避免因境外业务触发国内监管风险。
六、未来展望
(一)产业发展的规范升级
《办法》的出台标志着我国AI拟人化互动服务从“野蛮生长”进入“规范发展”新阶段。有业内人士预测,2026年将是AI拟真人大爆发的一年,将决定整个市场的模式与走向。在《办法》提供的制度框架下,产业有望在合规前提下实现更高质量的发展,推动从底层算法、内容创作到硬件终端的产业链进一步完善。国际数据公司IDC预测,2026年中国AI数字虚拟人市场规模将达到102.4亿元,数字虚拟人作为新型数字消费载体,正在推动消费从功能性向情感性、从物质性向虚拟性延伸。
(二)治理体系的持续完善
《办法》作为暂行办法,为未来制度的进一步完善预留了空间。随着技术发展和应用场景的不断拓展,相关配套标准、细则和指南将陆续出台,形成更加完善的AI拟人化互动服务治理体系。国家网信办有关负责人表示,拟人化互动服务的发展与治理需要政府、企业、社会、网民等多方参与,共同维护良好网络生态,促进人工智能向上向善。
(三)国际治理的协同演进
从国际视角来看,拟人化互动服务已成为全球人工智能治理的共同议题。欧盟通过《人工智能法》建立风险分类体系,将拟人化互动服务划入有限风险范畴,要求建立强制透明度告知义务和对合成内容进行标识。美国加州、纽约等州已通过相关立法,要求服务提供者建立危机检测机制,并以显著、持续的方式告知用户“交互对象为AI,不是真实人类”。我国《办法》的出台,既是国内治理的需要,也为全球AI拟人化互动服务治理提供了中国方案,有助于推动形成更加协调一致的国际治理共识。
(四)技术向善的价值引领
《办法》践行以人为本、智能向善的理念,通过划定技术应用的伦理边界与安全底线,为人工智能拟人化互动服务的健康可持续发展提供了制度保障。在未来,随着《办法》的落地实施,AI拟人化互动服务将更加注重伦理规范、用户权益保护和社会价值引领,在发挥赋能作用的同时有效防范风险,真正实现“智能有度、服务有温”的发展愿景。
夜雨聆风