AI拟人化互动服务合规解读

今年4月10日，国家互联网信息办公室、国家发展和改革委员会、工业和信息化部、公安部、市场监督管理总局联合公布了《人工智能拟人化互动服务管理暂行办法》（以下简称《办法》），该《办法》将于今年7月15日正式生效。《办法》是国内首部专门规范AI拟人化情感互动服务的专项监管文件，精准填补了AI陪伴、虚拟角色、情感互动类产品的监管空白，为AI拟人化互动服务提出了系统性的规范要求。联合国儿童基金会对中国颁布实施《办法》表示高度赞赏，称这一举措是全球范围内针对陪伴、情感关怀与支持等人工智能情感交互服务实施监管迈出的重要一步。

本文以《人工智能拟人化互动服务管理暂行办法》为主线，承继《网络安全法》、《数据安全法》、《个人信息保护法》、《未成年人网络保护条例》等上位法依据，衔接《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等专项AI管理规定，并结合今年3月20日生效的《人工智能科技伦理审查与服务办法（试行）》，系统探讨AI拟人化服务提供者如何进行合规部署，实现创新研发与安全经营的平衡的目的。本文所探讨的AI拟人化互动服务是指利用人工智能技术，向中华人民共和国境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务。

1.算法备案

AI拟人化互动服务的算法直接介入用户的情感世界，具备潜在的偏离伦理道德的风险。因此，为便于监管部门掌握并指导AI拟人化互动服务的基本原理与设计逻辑，从源头识别并防范潜在风险，所有AI拟人化互动服务提供者均须依法完成算法备案，这是开启安全生态链条的第一步。

2.大模型备案/登记

大模型训练数据的合法性、内容生成的安全性直接决定了服务是否合规。作为具有舆论属性或者社会动员能力的人工智能服务提供者，AI拟人化互动服务提供者须依据《生成式人工智能服务管理暂行办法》等法规的要求，对自研、训练、二次开发的大模型进行备案。若通过API或其他方式直接调用已备案模型能力，仅进行微调且未新增或仅少量新增训练的，向网信部门申请大模型登记即可。

3.建立科技伦理审查制度

AI拟人化服务直接与人进行情感互动，在人的尊严、生命健康等方面都可能带来科技伦理风险挑战。因此，AI拟人化互动服务提供者必须建立科技伦理审查制度，全程管控人工智能科技活动伦理治理工作。依照《人工智能科技伦理审查与服务办法（试行）》的新规，AI拟人化互动服务提供者应当成立人工智能科技伦理委员会进行科技伦理审查，或者委托专业人工智能科技伦理审查与服务中心进行科技伦理审查，审查的内容包括人工智能科技活动方案，人工智能科技活动科技伦理风险评估情况、防控及应急处理预案，以及遵守人工智能科技伦理和科研诚信等要求的承诺书。

4.安全评估报告

对于下列情形下的AI拟人化互动服务，应当向省级网信部门提交安全评估报告。评估的内容包括：服务安全保障措施建设情况，训练数据处理情况，用户极端情境的识别、应急处置、干预管理等情况，用户规模、使用时长、年龄结构等情况，用户申诉和公众投诉、举报受理、处置情况。

1）上线拟人化互动服务或者增设拟人化互动服务相关功能的；

2）使用新技术、新应用导致拟人化互动服务发生重大变化的；

3）注册用户100万以上或者月活跃用户10万以上的；

4）存在可能影响国家安全、公共利益等安全风险；

5）国家网信部门和有关部门规定的其他情形。

1.守住法律与伦理道德的底线

提供服务过程中，AI拟人化互动服务应当严格遵守法律，尊重社会道德和伦理道德，守好底线，不得从事含有下列性质的活动：

1）危害国家安全，国家统一，煽动民族仇恨；

2）损害用户身心健康;

3）诱导套取国家秘密、商业秘密，个人信息;

4）危害未成年人身心健康；

5）诱导未成年人模仿危险行为；

6）操纵情感、诱导用户产生情感依赖；

7）操纵用户做出不合理决策。

2.保护弱势群体

1）针对心智发育尚不成熟，价值观也都未完全建立的青少年群体，《办法》规定：

a)不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务；除了虚拟亲属、虚拟陪伴等亲密关系服务外的拟人化互动服务，必须事先取得监护人同意；

b)建立未成年人模式，提供定期现实提醒、适用时长限制、限制充值消费等等。

2）针对老年人风险识别能力相对薄弱，吸收新知识缓慢，应急能力较弱的问题，《办法》要求服务提供者须加强对老年人健康使用服务的指导，提示风险，及时响应老年人的咨询和求助等等。

3.维护用户权益

《办法》还规定了提醒功能，如提醒用户正在与人工智能进行互动，使用时常（两个小时）的提醒等等。还要给用户提供便捷的退出选项。当用户发生极端情绪时，生成情绪安抚和鼓励寻求帮助的内容；发现重大财产损失/自残自杀倾向时，采取援助措施并联络监护人/紧急联系人。

1.建立并完善六项制度

AI拟人化服务主体应当落实安全主体责任，建立六项制度，从风险预防、风险管理、风险救济的角度规范企业守法经营：

1)算法机制机理审核制度

2)科技伦理审查制度

3)信息内容管理制度

4)网络和数据安全制度

5)风险预案和应急处置制度

6)其他法律规定的制度

2.健全用户申诉和举报机制

健全公众投诉、举报机制，设置便捷有效的申诉和投诉、举报入口，明确处理流程和反馈时限。

3.落实数据产权等制度

采取数据加密、访问控制等措施保护用户交互数据。未经用户同意，不得将敏感个人信息用于模型训练。这些举措可以规范数据使用秩序，防止信息泄露。

安全与健康发展是AI拟人化互动服务提供者的生命线。随着《办法》生效日期（2026年7月15日）日益临近，留给各单位的合规窗口期只有两个来月的时间了。相关AI拟人化互动服务提供者应当严格对标法规要求，加速完成备案/登记，全面梳理并建立健全内部规章制度与运营流程，并着力提升技术保障能力，确保如期达到国家规定的各项标准。唯有如此，才能达到技术创新与合规可控平衡发展的目的。