智能向善:AI情感交互的法治边界

从ChatGPT到各类AI伴侣，当下拟人化交互正成为人工智能的重要应用方向。据艾瑞咨询数据，2024年中国 AI 情感陪伴市场规模已达380亿元，行业潜在用户规模突破2亿。然而，虚拟伴侣诱导未成年人沉迷、深度情感依赖引发心理健康风险、算法操纵影响用户决策等问题也日益显现。

4月10日，国家网信办等五部门联合公布《人工智能拟人化互动服务管理暂行办法》，该《办法》将自今年的7月15日起施行。作为全球首个针对AI情感交互的专项立法，这份文件在鼓励技术创新的同时，也为新兴的情感计算领域划定了清晰的法律边界。

我们认为，从法律视角看，这份文件的核心价值在于，它试图在鼓励技术创新与防范系统风险之间找到平衡点，为AI情感交互这一新兴领域建立“智能向善”的治理范式。

《办法》的核心定位与适用范围

《办法》的适用范围颇具精准性,它规范的是“利用AI技术,向境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务”。这一定义抓住了三个核心要素：人格模拟、持续性互动和情感导向。值得关注的是,《办法》明确将智能客服、知识问答、工作助手等非持续情感互动排除在外。这种精准划定范围的立法技术，体现了监管的精细化思维，避免一刀切伤及无辜，而是全力聚焦真正的风险领域。

为什么要单独规范这一领域？国家网信办在答记者问中指出了三大风险：危害未成年人身心健康、影响网络信息安全、威胁公民生命健康。这些风险也并不是危言耸听。2025年6月，央视曝光筑梦岛 App 因提供低俗诱导内容、危害未成年人身心健康被监管约谈；广东一名未成年人长期与 AI 虚拟角色互动后，出现割腕等自伤行为，引发社会广泛关注；另有用户因过度依赖AI伴侣而完全脱离现实社交，最终酿成心理健康危机。

拟人化交互的特殊性在于，它完全有能力按照“千人千面”的逻辑，通过算法精密设计出具备无条件陪伴、迎合式反馈、模拟共情等能力的虚拟伴侣。从而为单个用户构建了一个专属于他/她的，具备稳定持续、无需承担现实责任的完美关系。按现在流行的话来说，就是能够持续稳定的提供“情绪价值”。但是，这种关系越是完美，越容易让人产生深度依赖，尤其是对现实社交能力较弱、心理承受力较低的特定人群，无异于一种精神鸦片。

从法律视角看，问题的核心在于如何界定拟人化互动服务提供者的注意义务边界，以及技术中立原则在情感计算场景的适用性。我们的观点是，应当支持加强监管。拟人化交互是平台的主动设计行为，平台作为服务提供者应当对交互后果承担相应责任。更重要的是，平台通过情感交互直接获取商业收益，其理应承担更高程度的社会责任与法律义务。

包容审慎的监管原则

《办法》第三条明确提出包容审慎和分类分级监管原则，这是首次在AI监管文件中确立这一原则。包容审慎体现为鼓励创新与防范风险并重。《办法》专设服务促进和规范章节，支持算法、框架、芯片等技术研发，鼓励有序拓展文化传播、适老陪伴等领域应用，并提出建设人工智能沙箱安全服务平台。这种先试后管的思路，仍然在为技术创新留出足够空间。分类分级则是基于风险差异化的精准监管方式。虽然《办法》尚未明确分级标准，但立法逻辑是清晰的，适老陪伴、文化传播等低风险场景以鼓励发展为主，而面向未成年人、可能引发情感依赖的场景则强化监管义务。

这种思路有些类似于欧盟《人工智能法》的风险分类体系，但更符合中国产业的当前发展阶段。欧盟将拟人化交互列为有限风险，要求进行透明度告知和合成内容标识，但没有设立强制性干预义务。至于美国目前则尚无专门立法，而是主要依赖《儿童在线隐私保护法》《通信规范法》等通用法律来进行个案监管。中国此次出台的《办法》不仅要求透明度，还设立了极端情绪干预、依赖提醒、时长限制等强制性义务，体现了以人为本、智能向善的理念。这种差异背后是监管哲学的不同，欧盟强调风险预防，美国倾向于事后救济，中国则追求发展与安全的动态平衡。

严格的未成年人保护规则

《办法》对未成年人保护作出了史上最严格规定。禁止虚拟亲密关系，不得向未成年人提供虚拟亲属、虚拟伴侣等服务。这一要求无疑是正确的，由于未成年人心智发展的问题，虚拟伴侣对未成年人的情感诱导风险远高于成人。年龄分层同意机制，向不满14周岁未成年人提供服务需取得监护人同意，这实际上是借鉴了《个人信息保护法》的年龄分层思路，但将适用范围扩大至所有拟人化互动服务。强制未成年人模式，要求建立支持监护人管控使用行为、限制充值消费等功能，这对企业来说不仅是技术要求，更是要对商业模式作出调整，高度依赖未成年人充值的AI伴侣平台恐怕将面临重大冲击。

创新性的强制性干预义务

《办法》第十七条设立了三项强制性干预义务，我们认为，这是本次最具创新性的部分。极端情绪干预，发现用户出现极端情绪应当及时生成安抚内容，发现用户面临重大财产损失或表达自残自杀意图，必须采取援助措施并联络监护人或紧急联系人。这实际上将AI服务提供者提升为心理救助者的角色。依赖倾向提醒，发现用户出现过度依赖、沉迷倾向，应当以弹窗等方式动态提醒这是AI服务，这将打破完美陪伴的幻觉，强制用户回归现实认知。使用时长限制，用户连续使用每超过2小时，必须提醒注意时长，这一条款是用于防范过度沉迷风险。

未来的立法与行业走向

立法完善方向

从立法动向看，2025年下半年至今，我国正在密集出台完善AI治理的规章、规范性文件。《办法》作为部门规章，其效力层级和法律权威性仍有提升空间。随着AI拟人化交互的规模扩大和影响加深，以及《办法》实施过程中的经验积累，我们认为，今后不排除由国务院制定《人工智能拟人化互动服务管理条例》的可能。正在制定中的《人工智能法》也将对AI治理作出系统性规定，届时《办法》的核心原则可能被吸收，并在此基础上进行深化。行业协会下一步也有必要制定具体的技术标准和合规指引，为企业落实《办法》要求提供操作指南。

企业的合规路径

对于AI企业而言，合规已是必答题，而不是选答题。技术层面，构建全流程风控体系：事前进行安全评估和算法备案，识别潜在风险点；事中建立实时监测系统，对极端情绪、过度依赖等风险信号进行识别和预警；事后制定极端情境应急预案，包括心理援助资源对接、紧急联系人机制等。商业层面，调整用户结构与产品策略：降低未成年人依赖，将目标用户更多的转向成年人群体；拓展B端市场，例如为企业客户提供员工心理支持、客户服务培训等B端解决方案；开发适老产品，抓住银发经济机遇，开发符合老年人需求的AI陪伴产品，享受政策鼓励红利。合规层面，建立专业化团队：算法审核团队负责算法模型的合规性审查，内容审核团队对生成内容进行实时监测，数据安全团队负责用户数据的收集、存储、使用全流程合规管理。

行业的短期压力与长期机遇

《办法》实施后,行业将面临三重压力。未成年人市场萎缩，依赖未成年人充值的平台将失去重要收入来源。据业内估算，部分AI伴侣平台的未成年用户占比高达30%！这一部分的商业价值必然将大幅缩水。技术改造成本，为实现依赖干预、时长提醒等功能，平台需要升级算法模型、重构交互逻辑、建立监测系统,头部平台的技术改造成本预计在千万元+级别。合规团队建设，《办法》要求建立算法审核、伦理审查、内容管理、数据安全、风险预案等制度，这意味着中小平台必须组建专门的合规团队，或聘请专门的法律机构进行制度、机制设计，人力、合规成本恐将显著增加。

长期来看，《办法》将有利于出清低质竞争者，无法满足合规要求的中小平台将被逐渐淘汰，优质平台凭借技术、资金和管理优势，将获得更大的市场份额。明确的法律边界和强制性的保护措施也将增强公众对AI情感交互的信任度，从而扩大潜在用户规模。多家机构预测，2030 年中国 AI 情感陪伴市场规模有望突破 1000 亿，《办法》鼓励的适老陪伴、文化传播、特殊人群支持等领域，无疑将成为行业新的增长点，尤其是在老龄化背景下，适老AI陪伴的市场潜力巨大。

结语

我们始终认为，技术创新需要法治护栏，这不是束缚，而是护航。《办法》既不是扼杀创新的紧箍咒，也不是放任自流的空白地带，而是一套精准划定边界的制度框架。只有建立起公众信任、防范系统风险的AI治理体系，人工智能才能真正成为推动社会进步的向善力量。

往期推荐

守护未成年人：直播打赏新规的三重意义

教资加考AI，是进步还是焦虑？

明法慎术：新加坡法律AI指南的治理智慧