AI法律评论丨豆包、千问:将下线智能体功能

评论：《人工智能拟人化互动服务管理暂行办法》将于2026年7月15日施行，豆包、千问选择在同一时间下线相关功能，显然不是简单的产品功能迭代，而是平台对《办法》所采取预先合规措施。需要注意的是，本次新闻中所谓“智能体”，更多是可以设定人设、语气和陪伴关系的聊天机器人（chatbot）角色，并非真正意义上能够调用工具、拆解任务、执行工作的智能体（agent）。前者的核心风险在于拟人化、情感陪伴和持续互动，后者的核心风险则更多集中在权限控制、任务边界和外部系统调用，二者不能混为一谈。

从《办法》规定看，监管并非否定拟人化互动服务，而是要求平台落实防沉迷机制、未成年人身份核验及内容审核等主体责任。当前，豆包、千问等平台内用户自建角色往往数量庞大、内容不可控，也可能存在版权、明星肖像的侵权风险，平台难以逐一完成安全评估，也难以保证每个角色都不诱导沉迷、不过度迎合、不触碰未成年人和心理健康红线。因此，平台在《办法》落地前统一下线高风险功能，某种程度上是牺牲短期用户体验换取合规确定性的务实选择。

对用户而言，本次功能下线也暴露出AI陪伴产品的另一层问题：用户在平台中投入了大量时间、情感，但这些内容并不真正由用户控制。一旦平台基于合规或产品策略调整服务，用户只能在限定期限内复制或导出部分记录，原有角色设定、互动记忆和陪伴关系很难完整迁移。拟人化互动服务越强调长期陪伴，越应正视用户数据可携带、服务终止后过渡安排等问题。未来平台在设计此类产品时，不仅要防止用户沉迷和情感操纵，也应尊重用户的投入为其提供更平滑的过渡方案。

评论：此前，Claude Code被曝光通过隐形代码回传用户地域、身份标识等信息，本次阿里内部禁用、工信部平台发布风险提示，都是正常且必要的反制措施。Anthropic将其解释为防止账号倒卖和模型蒸馏的措施，但这种解释并不能改变问题本质：开发工具被安装在企业研发环境中，往往可以接触代码仓库、配置文件、接口文档和内部网络，如果工具在未充分告知、未取得明确授权的情况下回传信息，其安全风险绝不能用“反滥用”轻描淡写地带过。

更深层的问题在于，Claude对中国用户的限制已经不再只是商业选择，而正在形成一种带有明显歧视性的治理模式。对这类行为，国内企业和监管部门不宜只停留在被动排查。企业层面，应将境外AI开发工具纳入供应链安全管理，对相关AI工具进行持续审查，必要时采取禁用、隔离或国产替代。监管层面，也可以考虑通过安全通报、漏洞披露、政府和重点行业采购限制等方式形成制度化反制，要求在国内被广泛使用的AI开发工具说明其数据处理和安全机制。所谓技术开放不应是单向透明，更不能是中国用户向境外平台透明，而境外平台对中国用户不透明。

评论：万幸的是本次事故并没有造成不可挽回的结果，误食毒蘑菇这件事最值得警惕的地方，不是AI答错了，而是用户真的把它当成了行动依据。AI工具可以在很多场景下提供帮助，比如识别植物、翻译菜单、查找商品，但它并不理解现实世界中的风险后果。野生菌识别这种问题，错一次就可能危及生命，不能和普通的聊天问答、搜索总结按照同等规则进行管理。

现在很多AI产品给出的答案都很完整、很肯定，反而容易让普通用户放松警惕。对用户来说，越是涉及吃什么药、要不要就医、能不能食用、合同能不能签、案件怎么处理这类问题，越不能只看AI怎么说。AI可以帮我们快速了解背景知识，但最后的判断仍然要交给医生、律师、专业检测机构等真正承担责任的人。尤其是野生蘑菇这类高风险事项，最稳妥的规则其实很简单：不认识、不确定，就不要吃。

从平台责任角度看，高风险场景不应仅依靠一句“内容由AI生成，仅供参考”完成免责。如果AI产品明知用户正在进行药品、症状、诉讼等高风险识别，却仍以普通问答方式给出确定性结论，就会形成明显的合规风险。平台至少应设置更强的场景识别和风险提示机制，例如对用药剂量、急症症状等问题触发醒目警示，明确提示不得据此食用或自行治疗，并引导用户寻求专业机构帮助；对于法律、医疗等垂直产品，还应建立知识来源可追溯、置信度提示、错误反馈和日志留存机制。

评论：这件事之所以引发关注，并不是因为大家不知道机器人还不成熟，而是因为它把宣传和现实之间的落差摆在了台面上。消费者看到的是“机器人伴侣”“超仿生”“全尺寸”等概念，实际面对的却是极短续航、使用复杂、维护成本较高和稳定性不足问题。这个差距，正是当前人形机器人行业最真实的状态。

人形机器人确实有长期价值，但现在距离普通家庭日常使用还有很长一段路。它不是一台买回家就能融入生活的家电，更像是仍在快速迭代的复杂设备。能不能稳定行走、能不能安全避障、能不能听懂真实家庭场景中的复杂指令、坏了之后怎么维修、长期使用成本有多高，这些问题都比“长得像不像人”更重要。现阶段，它更适合展示、科研、特定商业场景和有限任务，而不是被期待成一个全天候的家庭成员。

对行业来说，热度当然重要，但更重要的是把能力和局限说清楚。续航多久、能做什么、不能做什么、在哪些场景下容易出错，都应当让用户充分知情及了解，更不能让消费者误以为产品已经具备稳定陪伴、照护老人、独立家务等能力。人形机器人真正走向成熟，不靠一次发布会或几个热搜，而是靠在具体场景中反复解决小问题。等它能持续、安全、稳定地完成一件件具体事情时，消费者自然会相信它；在此之前，少一点科幻叙事，多一点现实说明，反而更有利于行业长期发展。否则，相关企业即便获得了热度，但将可能同时面临虚假宣传、消费者权益保护以及产品责任的法律风险，也将会得不偿失。