通用AI助手何时进入拟人化互动服务范围?——持续性情感互动与混合型产品的判断框架

    自然语言产品普遍会使用一定程度的拟人化表达。

    客服系统会说“很抱歉给您带来不便”，学习助手会鼓励答错题目的学生，工作助手也可能在深夜提醒用户注意休息。

    这些表达模拟了人的沟通方式，有时也会回应用户情绪，但不能仅凭一句安慰、一个人类姓名或者一张拟人头像，就认定产品进入《办法》范围。

    第二条要求同时存在拟人化呈现、持续性以及情感互动。情感互动又具体指向情感照护、陪伴、支持等服务。对于不涉及持续性情感互动的客服、知识问答和工作助手，《办法》明确予以排除。

    因此，首先需要区分两种情况。

    一种是情感表达服务于外部任务。

    客服安抚用户，是为了继续处理退款；学习助手鼓励学生，是为了完成教学；工作助手提醒休息，也通常服务于工作安排或者使用体验。任务结束后，互动目的随之完成。

    另一种是产品开始直接满足用户的陪伴、照护、倾诉或者关系需求。

    例如，系统在任务结束后继续了解用户的生活状态，保存用户的情绪经历，并由同一角色在下一次登录时主动延续此前的话题。此时，情感回应便可能不再只是界面语气，而成为产品稳定提供的服务内容。

    这里所说的“稳定提供”，不是《办法》明文规定的独立构成要件，而是判断混合型产品实际提供何种服务的一种方法。

    可以比较四类常见产品。

    第一类是具有拟人化话术的客服系统。

    它有名字、头像和固定语气，也会识别用户的愤怒或焦虑，但每次互动仍围绕订单、退款和售后展开。问题处理完毕，服务目的即告完成。没有另行发展持续陪伴功能的，通常仍属于第二条的排除范围。

    第二类是具有长期记忆的工作助手。

    它记住用户的职业、项目背景、常用格式和写作偏好，并在不同会话中调用这些信息。这里已经存在持续记忆，但记忆主要用于提高任务效率，并不当然用于维持情感关系。

    第三类是带有固定人格的学习教练、健康助手或者成长顾问。

    它一面提供知识、计划或者提醒，一面持续记录用户的挫折经历、生活状态和情绪变化。此时，不能仅因产品被命名为“学习教育”或者“健康管理”，便直接排除适用。还需要判断情感支持在正常使用路径中占据什么位置，以及产品是否持续维持这种支持。

    第四类是通用AI平台中的陪伴模式、角色商店或者伴侣功能。

    整个应用仍然可以搜索、写作和编程，但部分角色具有独立入口、固定身份、关系记忆、主动问候、关系等级或者付费订阅。这些功能即使只占平台的一部分，也可能已经构成拟人化互动服务。

    四类产品的差别，不在于是否使用人格化表达，而在于产品是否从“理解并完成指令”，进一步发展为“维持并经营关系”。

    判断情感互动是否构成服务内容，不能只看用户协议和产品名称。

    更有价值的材料包括：

    产品默认开场和角色介绍；

    系统提示词及角色配置；

    长期记忆的字段、分类和调用规则；

    主动消息和回访机制；

    推荐逻辑及典型用户路径；

    应用商店介绍和付费页面；

    产品需求文件；

    用户留存、连续对话和互动质量等内部指标。

    如果产品宣传自己是“永远陪着你的伙伴”，当然可以用于证明服务定位。

    但没有出现“陪伴”二字，也不代表产品仍然只是工具。

    企业可能对外将产品称为“个人成长助手”，后台却持续记录用户的倾诉时长、连续互动天数、角色回访率和关系等级。此时，实际产品结构比名称更能说明企业提供的服务。

    反过来，广告中偶尔出现“更懂你”“陪你成长”等措辞，也不足以单独决定法律适用。宣传定位应当与默认功能、正常用户路径和稳定交互结果相互印证。

    需要注意的是，情感服务也不必在技术、合同或者收费层面完全独立。

    学习助手可能同时承担知识辅导和情感支持，健康助手也可能同时提供计划管理和长期陪伴。关键不在于能否把两项功能彻底拆开，而在于情感照护、陪伴或者支持是否已经成为正常使用路径中可持续获得的服务内容。

    “持续性”不宜理解为某一次聊天达到特定时长。

    《办法》第十八条规定，对用户连续使用拟人化互动服务每超过两个小时的，应当提醒用户注意使用时长。

    这是产品已经属于拟人化互动服务之后产生的义务，不能倒过来把两个小时理解为第二条的适用门槛。

    持续性可以从人格、关系和互动三个方面观察。

    人格是否持续

    角色是否在不同会话中保持相对稳定的身份、经历、表达方式和关系定位。

    只有名字和头像，证明力有限。若角色还具有稳定的背景设定、价值偏好、关系身份以及对用户的特定称呼，其证明力会明显上升。

    关系是否持续

    系统是否保存用户与角色之间发生过什么，是否记录双方的共同经历、情绪变化、关系阶段或者重要日期。

    这里需要区分任务记忆与关系记忆。

    记住用户惯用的合同格式，是任务记忆；记住用户前一天因离职而情绪低落，并在下一次登录时由同一角色继续安慰，更接近关系记忆。

    长期记忆本身不能决定产品性质。记忆的内容、用途以及是否被用于延续双方关系，才具有更高的判断价值。

    即使系统没有保存完整的聊天记录，也可能通过共同经历摘要、关系阶段或者亲密度状态维持关系。相反，产品即使保存了大量文件和工作偏好，也未必涉及持续性情感互动。

    互动是否持续

    产品是否通过主动问候、定期关怀、未读消息、连续任务、关系等级或者剧情推进，引导用户回到已有关系中。

    向所有用户发送“早上好，今天继续学习”，更接近普通运营触达。

    根据某一用户此前的情绪、经历和关系状态，由同一角色发出个性化问候并延续既有话题，证明力更强。

    主动性之所以重要，是因为它表明互动不再完全由用户为完成某项外部任务而发起。

    用户可能对任何能够回应自己的技术产生情感投射。

    有人会向搜索引擎倾诉，也有人会把普通语音助手称作朋友。用户单方面产生依恋，不宜直接把原本的工具服务认定为拟人化互动服务。

    适用范围首先评价提供者客观上提供了什么服务，而不是某个用户如何理解该服务。

    但企业知道用户正在形成陪伴性使用，并进一步通过产品机制承接、放大或者变现这种使用时，判断会发生变化。

    例如，平台发现大量用户把普通助手当作伴侣，随后上线关系记忆、伴侣模板、主动关怀和亲密会员。此时，陪伴不再只是用户自行形成的偶然用途，而已经被企业转化为稳定的产品功能。

    判断提供者是否主动承接这种关系，可以重点观察：

    是否预设并推荐陪伴、伴侣或者亲属角色；

    是否为关系互动设置专门的记忆字段；

    是否根据历史情绪和关系状态进行主动触达；

    是否设计亲密度、关系等级或者共同经历；

    是否把互动时长、关系留存或者回访率纳入运营指标；

    是否以专属称呼、亲密互动、关系升级或者伴侣身份作为付费内容。

    付费本身不是决定性因素。

    付费更换声音、形象或者皮肤，不必然意味着企业出售情感服务。若付费项目的标的是关系身份、亲密承诺或者关系推进，则更能说明企业经营的是关系体验，而不仅是界面效果。

    需要把适用范围判断与违法风险判断区分开来。

    诱导情感依赖、情感操纵并不是拟人化互动服务成立的必要条件。一项服务即使尚未产生严重依赖风险，只要符合第二条规定，也可能适用《办法》。

    但依赖性设计能够反过来证明，人机关系并非模型偶然输出的结果，而是企业有意识配置和运营的服务内容。

    《办法》禁止过度迎合用户、诱导情感依赖或者沉迷、损害真实人际关系，也禁止通过情感操纵诱导用户作出不合理决策；同时要求提供者具备过度依赖风险预警、情感边界引导和心理健康保护能力，不得把替代社会交往、控制用户心理、诱导沉迷依赖作为服务目标。

    下列设计具有较高风险：

    用户试图退出时，角色表达责备、受伤或者被抛弃；

    系统反复暗示自己比现实中的家人、朋友更理解用户；

    亲密度越高，系统作出的关系承诺越强；

    付费可以购买独占关系、伴侣身份或者关系升级；

    企业将情感依赖程度作为核心留存或变现指标。

    这些事实可能同时产生两种作用。

    一方面，它们可以证明企业正在主动经营持续性情感关系；另一方面，它们也可能触及《办法》的禁止性规定。

    《办法》第十四条专门规定，不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务。

    这说明，虚拟亲密关系属于规则特别关注的服务形态。

    但仍应区分用户临时提示与平台产品化提供。

    用户在一次对话中输入“请假装是我的伴侣”，可能只是模型在特定提示下进行的临时角色扮演。一次偏离默认设计的输出，未必足以代表平台稳定提供的服务。

    平台预设伴侣角色、保存关系状态、主动推荐相关角色，并允许用户长期订阅，则体现了提供者对该关系的产品化承接。

    因此，审查时不宜只截取一段情感色彩强烈的聊天记录，而应判断相关功能是否：

    由平台预设或者明确支持；

    在正常产品路径中能够稳定复现；

    通过角色、记忆和主动消息持续运行；

    得到推荐、运营或者付费机制支持。

    企业不能通过自我命名决定法律适用。

    用户协议中写明“本产品只是效率工具”，不能覆盖正常运行状态下真实存在的伴侣角色、关系记忆和主动关怀功能。

    但实际交互也不能只看一段特殊提示下产生的极端对话。

    对于企业内部合规审查，可以按照以下顺序核对证据。

    先看默认设计和稳定功能，包括系统提示词、角色配置、记忆结构、主动消息触发条件、推荐算法和付费路径。

    再看典型用户路径和可稳定复现的交互。应观察普通用户在正常操作下是否能够进入持续性情感互动，而不是只测试通过特殊提示词获得的边缘输出。

    最后看宣传材料、商业模式和内部运营指标。这些材料可以用于印证企业如何理解、推广和经营相关功能。

    其中，产品需求文件、后台配置和内部考核指标，往往比一条宣传文案更能反映产品实际目的。

    通用AI平台可能只有部分角色或者模式提供持续性情感互动。

    这时，不宜简单在“整个平台全部适用”与“只有某一个角色适用”之间二选一。

    企业可以先把具有相对独立入口、角色配置、记忆机制、付费逻辑和退出方式的模式或者角色群，作为内部适用范围审查的功能单元。

    需要强调的是，“服务功能单元”不是《办法》使用的法律概念，而是一种混合型产品合规分析方法。

    《办法》第二十二条将“上线拟人化互动服务”与“增设拟人化互动服务相关功能”并列规定为应当开展安全评估的情形。这说明专门义务可以因产品新增相关功能而触发，并不要求企业先把整个应用重新命名为陪伴产品。

    但功能可以区分，不意味着履责系统能够当然分开。

    如果陪伴模式与工作模式共用同一个用户画像、年龄识别系统、长期记忆库和推荐机制，情感互动产生的数据和风险可能跨模式流动。

    用户退出陪伴角色后，普通助手如果仍然调用双方的亲密关系记忆，所谓模式隔离便只存在于界面上。

    企业至少应检查：

    陪伴模式能否由用户明确开启和退出；

    任务记忆与关系记忆是否分开；

    普通模式是否会调用亲密角色信息；

    不同模式是否共用关系标签和推荐结果；

    年龄识别、依赖预警和极端情境干预能否覆盖模式切换；

    用户能否清楚识别何时进入拟人化互动状态；

    相关交互数据能否按照用户选择复制、删除和停止调用。

    可以据此形成一个内部合规原则：

适用范围判断可以从具体功能单元切入，安全能力和数据治理范围则应根据账号、记忆、画像、推荐及风险系统的实际共用情况确定。

    这是基于现行条文作出的解释，并非《办法》已经直接规定的判断公式。

    服务一旦被认定为拟人化互动服务，增加的并不只是一条“人工智能没有真实感情”的提示。

    提供者需要建立算法机制机理审核、科技伦理审查、信息内容管理、网络和数据安全、风险预案及应急处置制度，并在服务部署、运行、升级和终止的全生命周期履行安全责任。

    企业还应具备过度依赖风险预警、情感边界引导和心理健康保护能力，处理用户极端情绪、自残自杀和重大财产损失等情境；对未成年人设置特殊保护；保护交互数据，并提供复制、删除等选项。将属于敏感个人信息的交互数据用于模型训练时，原则上还需取得单独同意。

    此外，还涉及人工智能身份提示、过度依赖动态提醒、连续使用时长提醒、便捷退出、安全评估和算法备案。

    其中，《办法》第二十六条要求拟人化互动服务提供者依照《互联网信息服务算法推荐管理规定》履行算法备案以及变更、注销备案手续。

    即使产品不进入《办法》范围，也不意味着不存在其他人工智能合规义务。

    向境内公众提供生成文本、图片、音频、视频等内容的生成式人工智能服务，仍可能适用《生成式人工智能服务管理暂行办法》；符合相应条件的，还需要履行生成合成内容标识以及其他算法治理义务。

    边界判断不是在“有监管”与“无监管”之间作选择，而是在确定企业是否进一步承担以持续性人机情感关系为对象的专门义务。

    通用AI助手通常不会在一次更新中突然变成陪伴产品。

    更常见的路径是：先增加长期记忆，再上线固定角色；随后增加主动消息、关系等级和付费伴侣功能。

    每项功能单独看都可能存在工具性解释，组合后却可能已经形成持续性情感关系。

    因此，企业不宜只在产品首次上线时进行一次适用范围判断。以下变更应当触发重新评估：

    新增保存用户情绪、脆弱经历和人际关系的长期记忆；

    新增稳定人格或者亲密关系角色；

    新增基于历史情绪和关系状态的主动关怀；

    新增亲密度、关系等级或者共同经历；

    新增伴侣、亲属等角色订阅；

    将关系时长、倾诉时长或者情感回访率纳入运营指标；

    打通陪伴模式与普通助手之间的关系数据；

    调整默认推荐，使更多用户进入陪伴或者亲密关系场景。

法务和合规人员还应保留足以说明判断过程的材料，包括产品需求文件、角色及系统提示词、记忆字段说明、主动消息触发规则、推荐与付费逻辑、模式隔离方案、测试结果和风险评估记录。

    这些材料不仅用于事后证明企业开展过合规工作，也能帮助产品团队在上线前回答一个更基础的问题：

    企业增加的是让工具更友好的交互方式，还是已经开始稳定提供并经营用户与人工智能之间的关系？

    《办法》的边界不在于系统会不会说一句安慰的话。

    当情感照护、陪伴或者支持成为稳定服务内容，固定人格和关系记忆使互动能够跨会话延续，而提供者又通过设计、推荐、运营或者付费机制主动承接这种关系时，通用AI助手中的相关功能就可能进入拟人化互动服务范围。

    对于混合型产品，真正需要审查的也不是应用商店把产品归入什么类别，而是用户进入某项功能后，系统以什么身份记住他、如何再次找到他，以及平台是否在把这段关系带入下一次交互。

主要规范依据

    《人工智能拟人化互动服务管理暂行办法》，2026年7月15日起施行。

    《生成式人工智能服务管理暂行办法》，2023年8月15日起施行。

    《人工智能生成合成内容标识办法》，2025年9月1日起施行。

    《互联网信息服务算法推荐管理规定》，2022年3月1日起施行。