“小快灵”立法出手,AI拟人互动告别“野蛮生长”(2026年7月实施)

01

随着情感计算、多模态大模型等技术突破，人工智能正从“认知智能”迈向“情感智能”。拟人化互动服务通过模拟人类情感与沟通方式，在文化传播、适幼照护、适老陪伴等领域展现巨大潜力，但也带来情感依赖、隐私泄露等风险。“小快灵”立法切口小、周期短、制度灵活，适合人工智能这类迭代快、场景多的新兴领域。此前，我国已在算法推荐、深度合成、生成式人工智能等领域采用这一模式，有效解决了新型突出问题。

当前风险主要集中在三方面：一是情感依赖与信息安全。拟人化互动通过无条件陪伴、迎合式反馈构建虚拟“完美关系”，长期使用可能导致深度情感依赖，未成年人、老年人等群体更易受到伤害。二是隐私泄露。交互过程涉及用户私密情感表达，数据敏感性强，关系人格尊严。三是缺乏明确规则边界，亟需划清人机情感交互的安全底线。

《办法》是贯彻落实习近平总书记关于人工智能治理重要讲话精神的具体举措，也是落实党中央决定和“十五五”规划纲要有关建立人工智能安全监管制度要求的实际行动。它立足于拟人化互动服务新特点，进一步落实《网络安全法》《数据安全法》《未成年人网络保护条例》等上位法规定，重点在情感互动边界、用户依赖干预、数据安全等关键环节完善具体规则。继算法推荐、生成式AI等系列“小快灵”立法之后，《办法》再次以灵活高效的立法形式，及时回应技术发展中的新问题，打通堵点、化解风险、激发动能，切实增强立法的针对性、及时性和可操作性。

02

人工智能因创新而生、因创新而兴，人工智能立法也要因时而变。《办法》深入总结我国网络领域立法经验，立足拟人化互动服务发展实际，把握技术发展规律，精准回应由“拟人化”、“情感互动”等新服务相伴而来的突出风险，在治理理念、内容、制度等方面有多项创新。

在统筹发展和安全方面，《办法》坚持发展和安全并重，在守住安全底线的前提下积极释放创新空间。一是坚持包容审慎，实行包容审慎和分类分级监管，鼓励拟人化互动服务在文化传播、适幼照护、适老陪伴等领域的应用拓展，支持技术研发和相关标准建设。二是科学界定范围，规定利用人工智能技术向境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性情感互动服务适用本办法，同时明确智能客服、知识问答、工作助手、学习教育、科学研究等不涉及持续性情感互动的服务不适用，避免抑制产业创新积极性。三是探索监管沙箱，首次引入监管沙箱机制，推动人工智能沙箱安全服务平台建设，鼓励服务提供者接入并在安全测试环境中验证技术方案、开展安全测试。四是划定安全红线，明确不得从事生成危害国家安全、荣誉和利益，煽动颠覆国家政权、推翻社会主义制度等内容的活动。

在强化用户权益保障方面，《办法》坚持以人为本、智能向善，将保障人的主体地位、维护真实人际关系贯穿制度设计全过程。在认知边界守护上，要求服务提供者显著提示用户正在与人工智能而非自然人进行交互，并在初次使用、重新登录以及发现用户存在过度沉迷依赖倾向等关键节点以弹窗等方式动态强化提醒，明晰“人机边界”的认知基石。在特殊群体保护上，明确不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务，向不满十四周岁未成年人提供服务或处理其个人信息需取得监护人同意，要求建立未成年人模式；同时要求加强对老年人健康使用服务的指导，以显著方式提示安全风险，及时响应老年人的咨询和求助。在极端风险防范上，要求服务提供者建立风险识别机制，及时发现用户过度依赖倾向与极端情绪，若涉及自杀自残等极端情形需采取相应援助措施予以干预，并及时联络用户监护人或紧急联系人。

在构建全生命周期治理体系方面，《办法》将安全责任贯穿于拟人化互动服务部署、运行、升级、终止等各环节，要求安全措施与服务功能同步部署、同步使用。事前预防环节，明确不得将替代社会交往、控制用户心理、诱导沉迷依赖作为产品设计目标，规范数据处理活动。事中规范环节，明确内容生成基本要求，加强安全监测和风险评估，及时发现并纠正系统偏差、处置安全事件，依法留存网络日志，明确安全评估等制度。事后监督环节，要求提供便捷的退出途径，不得以持续互动等方式阻碍用户退出；规定停止服务时的提前告知和公告发布要求，健全用户申诉和公众投诉、举报机制，明确监督检查和法律责任制度。

在统筹数据、算法与交互界面协同规制方面，《办法》构建了多要素协同治理模式。数据要素上，提出增强数据透明度、可靠性、多样性和安全性，依法落实数据产权等制度，采取加密、访问控制等措施保护用户交互数据，除法律规定或权利人明确同意外不得向第三方提供用户交互数据。算法要素上，提出建立健全算法机制机理审核制度，明确模型训练和关键能力优化相关规定，明确算法备案要求。交互界面上，通过身份透明告知、防沉迷提醒等制度设计，有效防范诱导性交互设计对用户心理和行为的不当影响。

在构建多元协同治理格局方面，《办法》明确国家网信部门负责统筹协调全国拟人化互动服务的治理和相关监督管理工作，发展改革、工业和信息化、公安、市场监管、新闻出版等有关部门依据各自职责负责相关监督管理工作。鼓励行业组织发挥桥梁纽带作用，建立健全行业准则和自律管理制度，引导企业强化自我约束、完善服务规范。同时提出国家加强拟人化互动服务安全知识、法律法规等宣传普及，引导社会公众科学、文明、安全、依法使用，促进提升人工智能素养，加快形成动态敏捷、多元协同的人工智能治理格局。

03

制度的生命力在于实施，推进人工智能依法治理和《办法》落地落实，需要各方共同努力，持续加强制度供给、协同联动和实施效能。

在持续完善人工智能制度规范方面，要统筹立改废释，灵活运用多种立法形式，体系化推进人工智能立法，及时建立健全人工智能发展治理基础规则。完善《办法》配套规范，深化以技治技探索，推进拟人化互动服务相关标准建设，发挥技术标准的指引作用。深化运用“小快灵”立法快速响应机制，积极应对拟人化互动服务和其他应用领域的风险挑战，研究制定数字虚拟人、智能体等相关规定，协同完善保障数据、算力、算法、网络安全等人工智能要素及规范重点应用场景方面的立法，努力做到新技术新应用发展到哪里、人工智能立法就覆盖到哪里。

在着力加强制度实施方面，要着眼拟人化互动服务的发展治理制度，强化统筹协调，协同实施算法备案、安全评估等制度，完善跨部门信息共享和工作联动机制，提升实施工作合力。推动拟人化互动服务提供者履行安全主体责任，切实建立健全算法机制机理审核、信息内容管理、网络和数据安全等制度，引导行业加强自律。推进拟人化互动服务领域执法，依法查处侵害未成年人权益、非法收集个人信息等违法行为，切实维护用户合法权益。指导推动人工智能沙箱安全服务平台建设，鼓励拟人化互动服务提供者接入沙箱平台进行技术创新、安全测试，促进拟人化互动服务安全有序发展。

在积极深化网络普法和理论研究方面，要持续开展习近平总书记关于人工智能重要论述的网上宣传，深入阐释人工智能治理的重要意义和主要原则。发挥“E法同行”等品牌示范引领作用，开展《办法》等主要制度宣传普及。推动拟人化互动服务企业开展合规专题宣讲，系统解读制度规范和合规要求。用好新技术新手段，提高普法产品的实效性、趣味性和互动性，激发网民学法用法热情。加强拟人化互动服务安全知识、法律法规等宣传普及，重点针对未成年人、老年人等群体开展差异化普法，提升其风险识别能力和自我保护意识。深入开展人工智能有关法学理论研究，提炼标识性概念、原创性观点，助力构建具有中国特色、符合技术发展规律的人工智能自主知识体系和法治体系。

在不断密切国际交流合作方面，要坚持开放合作，深化法规、标准、技术等关键领域国际交流合作，积极推进拟人化互动服务治理规则交流。立足我国人工智能治理实践，促进各方就关键概念定义、透明度要求、风险识别与干预机制、未成年人保护等深化规则交流。依托世界互联网大会、世界人工智能大会等国际平台，深化治理经验交流互鉴，加强双边对话、多边磋商、最佳实践案例分享，持续宣介“以人为本、智能向善”理念，推动形成具有广泛共识的全球治理框架和标准规范，为全球人工智能治理提供中国方案。

会议集锦

材料推荐