新规后,“星野”、“猫箱”等拟人情感互动AI APP该何去何从?

2026年7月15日，国家网信办等五部门联合公布的《人工智能拟人化互动服务管理暂行办法》（以下简称“《AI拟人互动办法》”）正式施行。如同我国前述已针对生成式AI等不同类型AI已出台并实施的专门法规，本次的《AI拟人互动办法》适用的对象系针对在境内向公众提供模拟自然人人格特征、思维模式和沟通风格的持续性、情感互动服务AI（以下简称“情感互动AI”）。

目前，我国境内市场份额占比较高的情感互动AI产品有：稀宇科技使用Minmax大模型的“星野”APP、字节旗下使用豆包大模型的“猫箱”APP等，境外情感互动AI产品包括：偏传统人机对话的Replika，以及为用户提供指定角色/偶像塑造聊天互动类的Lovey Dovey、Character.AI（后由谷歌投资并收购）等。

参考“猫箱”APP《隐私政策》（2026年7月22日生效版）中的介绍，该软件提供的服务模式即基于生成式AI模型提供AI互动式娱乐服务（包括文字消息、表情包、语音及图片等形式）。

如单凭上述文字形容，情感互动AI提供服务的模式仍较抽象，以“猫箱”APP的“推荐页”及随机选取的某角色对话页面为例，情感互动AI通常根据用户输入的特定偏好或设定或系统中可供选择的角色（包括对话人的性别、年龄、社会身份、外观特征等）生成二维的拟人交互形态，并通过文字、声音等方式与用户进行持续的对话互动。如《AI拟人互动办法》第二条明确指出的，构成情感互动AI应包含三个要件：模拟自然人特征、交互持续性、功能属性为情感互动。据此，虚拟恋人、情感陪伴型AI均属于《AI拟人互动办法》的适用范围而智能客服、知识问答、办公AI等不涉及持续情感交互的工具型AI则被排除在外。

如网信办在发布《AI拟人互动办法》的答记者问中介绍的，该法规的出台背景正是直面拟人化互动AI的发展已成为主流趋势但为避免对包括未成年人、老人或特殊人群的身心健康危害，威胁公民的生命健康以及加剧伦理偏差，还需进一步明确AI情感互动的边界。

情感互动AI的服务场景下反而造成“伤人”的案例并不少见。2024年，美国Garcia v. Character AI.案中，Garcia主张Character AI对自己14岁儿子提供的聊天中发表一系列情感操控言论并最终导致未成年人的自杀，由此Character AI应承担重大过失的责任。尽管该案最终以和解结案，但后续Character AI也相继完善并调整了运行模式，限制18岁以下未成年人的注册使用并进一步优化其模型语言训练。

语言是充满力量的，凭借AI大模型打破语种的障碍，使情感互动AI得以流畅与不同年龄段用户通过文字或语音直接沟通的适用场景下，AI与真人的边界正在进一步消解，由此有必要通过《AI拟人互动办法》等专门法规及相关行业标准文件以“服务结果”为导向，将进行情感互动的AI一并纳入专项监管对象。

今年4月《AI拟人互动办法》发文前后，国内的情感互动AI实则已在洗牌，例如字节的豆包大模型、微信的元宝模型均已暂停或下架情感互动的功能接口，情感互动AI也趋于通过垂直领域APP而非通用模型的子功能以提供情感互动服务。

只是，目前《AI拟人互动办法》第八条中所严禁情感互动AI从事的“过度迎合用户”、“诱导情感依赖或沉迷”、“通过情感操纵等方式”等用语的外延本身较宽广，在实践中如何通过技术手段或可执行的测试标准准确识别尚待典型司法或行政监管案例进一步明确。还有，对于情感互动AI而言，除了需完成常规的算法及模型备案登记义务，是否还需再行根据《AI拟人互动办法》第二十二条中所述的“安全评估”再进行相应的专项评估申报？这些也待通过相关实践进一步明晰。

从本质而言，情感互动AI的底层逻辑无外乎通过和用户产生紧密的情感互动以提高用户粘合性并最终变现的一类传统互联网商业营利模式。在《AI拟人互动办法》施行后，立法与监管角度而言，法律对这类商业逻辑的干预程度应如何平衡？法理与AI伦理角度，情感互动AI通过模型以及记录用户不同喜好及历史选择而生成的系列对话究竟是否可以视为AI的“自主意志”，从法理技术层面是否有必要通过幽灵代理人（“the Phantom Agent”）的概念以理解/解释这类情感互动AI的角色，以避免法规对预设无自主意志的AI的监管失灵。