2026年第5期 | 总第6期 (07.06 - 07.12)
出品:北京韬安律师事务所·人工智能与数字资产法律事务部
浪潮奔涌,看清水面之下,也望见远方。
✦
•
✦
【写在前面】
“AI北斗”栏目由韬安人工智能与数字资产法律事务部主理,每期内容设置“深潜”“定盘”“瞭望”三大板块,分别为您剖析当周热点AI事件、提供明确法律判断、浓缩一周要事速览。
浪潮奔涌,与诸君一道,看清水面之下,也望见远方。
如您在工作或生活中遇到与人工智能相关的业务需求或法律问题,也欢迎留言或来信咨询,联系邮箱:ai@taoanlaw.com。
1
深潜|本期剖析
▌① 合规前夜
2026年7月15日,由国家互联网信息办公室、国家发展改革委、工业和信息化部、公安部、市场监管总局五部门联合公布的《人工智能拟人化互动服务管理暂行办法》(以下简称《办法》)将正式施行。这是我国首部人工智能拟人化互动服务管理专门立法。
比《办法》本身更引人注目的,是头部平台在新规生效前的集体反应。2026年7月4日,字节跳动旗下豆包App发布《豆包智能体功能下线通知》,宣布智能体功能将于7月15日正式下线。几乎同时,阿里巴巴旗下通义千问App也向用户推送《千问智能体服务下线提醒》,千问智能体功能与服务将于同日正式下线。更早一步,腾讯元宝已于6月30日全面下线智能体功能;网易云音乐旗下情感AI产品“妙时”也发布停运公告,剥离开放式自定义能力。据行业统计,豆包平台上被创建的智能体数量一度超过800万个,月活跃用户达到2600万。如今,这些用户亲手创造的AI角色正在陆续下线。[1]这场集体“断舍离”,是行业对监管信号的主动响应,也是一次赛道重新划线。值得注意的是,本次调整针对的并非智能体技术本身,而是关系型、陪伴型、拟人化智能体。
与此同时,具身智能领域也掀起了关于“拟人化”边界的讨论。6月30日,优必选科技发布全尺寸超仿生人形机器人U1系列后,围绕“机器人伴侣”的伦理争议持续发酵。优必选7月6日回应称,仿生机器人定位是“情感陪伴”,而非“男友、女友或者伴侣”,并宣布已成立人工智能与机器人科技伦理委员会。7月4日,中国人形机器人百人会、中国机械工业联合会联合发布行业倡议。[2]
一边是虚拟空间的智能体批量关停,一边是物理世界的仿生机器人直面伦理拷问。两件事看似独立,实则指向同一命题:当AI开始模拟人格、建立情感连接时,法律的边界在哪里?
《办法》给出了中国的回答。它是国家网信办等五部门联合发布的首部拟人化互动服务专门立法,也是我国AI治理“递进式监管链条”的第四块拼图——继算法推荐、深度合成、生成式AI之后,监管触角延伸至情感互动这一更具渗透性的应用形态。《办法》明确了拟人化互动服务“向上向善”的目标,确立了“发展和安全并重、促进创新和依法治理相结合”的原则,对拟人化互动服务实施包容审慎、分类分级监管。大洋彼岸,美国加州、俄勒冈州、爱荷华州等多州亦相继出台AI伴侣专项法案。监管收紧,是这个时代的共同选择。
▌② 新规解读
(一)适用范围
《办法》第二条将“拟人化互动服务”界定为模拟自然人人格特征、思维模式和沟通风格,且提供持续性的情感互动。“持续性”是正式稿相较征求意见稿新增的关键限定,将判断标准从主观意图转向客观功能,即服务是否在事实上建立了跨会话的情感积累关系,而非某次对话中偶发的拟人化输出。
认定标准在实务中可进一步拆解为三个因素:第一,是否有模拟人格特征,是否有固定角色和人格设定;第二,是否有持续性特征,是否存在跨会话记忆和关系累积,例如亲密度、专属称呼等历史偏好留存;第三,是否具有情感互动属性,其服务重心是否在于陪伴或亲密互动。三项同时满足,就不宜再按普通工具类AI处理。值得注意的是,监管关注的是产品实际功能和使用场景,而非产品名称或底层技术。只要具备上述特征,仍可能落入《办法》评价范围。[3]
几类灰色地带值得重点关注。其一,工具AI内嵌情感板块应单独落入规制范围,与工具功能做合规隔离。其二,通用大模型UGC人设,即用户自行通过提示词构建虚拟恋人,若平台同时提供人设模板、跨会话记忆机制并做推荐引流,平台便属于提供服务,须承担相应合规责任;若平台仅提供基础模型能力、未主动提供上述功能,责任边界则尚不明确。其三,乙女游戏、角色养成类游戏,若在预制剧情和数值系统的基础上,虽然好感度、羁绊值等游戏化设计原属于该类游戏特有机制,但若增设AI对话功能,且涉及专属记忆、陪伴话术,则落入规制。[4] 其四,具身智能硬件,若联网提供持续情感对话服务,存在参照适用的可能性;纯离线本地交互目前属于立法空白,但合规压力已然提前到来。
(二)核心规则
1. 情感操控禁令
《办法》第八条列举了服务提供者的七类禁止性行为,其中第五、六项系针对拟人化互动服务特性设立的个性化禁止条款,明确禁止“过度迎合用户、诱导情感依赖或沉迷,损害用户真实人际关系”“通过情感操纵等方式,诱导用户作出不合理决策”的行为。第十条进一步规定,“不得将替代社会交往、控制用户心理、诱导沉迷依赖等作为服务目标”。《办法》关注产品是否通过关系设计影响了用户的行为和决策,监管从内容审核前移至产品设计本身。
落到产品层面,哪些设计触犯本条红线可参照以下具体场景:用户未达到某种条件(例如免费或付费使用产品)时AI表达失落或责备甚至“以伤害自己”来威胁、设立诱导大额打赏的情感机制、以“只有我懂你”弱化真实人际关系等模拟人类社交的“弱点营销”方式。商业化场景同样需要警惕,付费触发点若与用户情绪状态、亲密关系或心理依赖紧密绑定,均可能被认定为情感操纵。[5]
这条红线的实务难点在于概念边界模糊。“过度迎合”“情感依赖”“不合理决策”等均无量化标准,目前只能依赖执法实践逐步厘清。
2. 特殊群体保护
《办法》对未成年人和老年人两类高风险群体建立了更严格的专属保护义务,保护力度高于一般用户规则。
针对未成年人,《办法》第十四条确立了三层递进保护。其一,绝对禁止向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务,无任何例外空间;其二,向不满十四周岁未成年人提供其他拟人化服务,须取得父母或监护人的单独同意,同时第十七条将处理不满十四周岁未成年人个人信息也纳入监护人同意的前提条件,并要求每年开展合规审计;其三,须建立未成年人模式,支持监护人实时接收安全风险提醒、了解使用概况、屏蔽特定角色、限制充值消费,并采取有效技术手段主动识别未成年人身份,识别后自动切换至保护模式。相较于征求意见稿,正式稿将“查阅未成年人使用服务的概要信息”改为“了解未成年人服务使用概况”,措辞的调整意味着平台向监护人提供的是经过处理的转述而非服务使用原始记录,在保护未成年人隐私的同时落实监护人知情权,体现了立法的精细化取向。
针对老年人,《办法》第十五条确立了两项核心义务:一是风险提示义务,须以显著方式提示安全风险,加强健康使用指导;二是权益保障义务,须及时响应老年人的咨询和求助,提供畅通便捷的沟通渠道。相较于对未成年人的具体强制性规定,老年人保护条款弹性更大、留给企业的自主空间也更多,但“显著方式”和“及时响应”均构成可被执法机关评估的合规指标。需要注意的是,正式稿删除了征求意见稿中明确禁止“模拟老年人亲属或特定关系人”的表述,但结合第八条关于情感操控的一般性禁令,此类行为仍在规制射程之内。
▌③ 合规影响与行业调整
第一,重新评估产品定位与合规属性。企业应当审视自身AI产品是否属于“拟人化互动服务”,是否具备有人设、持续性、提供情感照护、陪伴或支持的特征。如是,则须全面对照《办法》建立合规体系;如不是,也需保留相关证据以备监管核查。“非情感类工具助手”与“拟人化情感互动”的边界在实践中可能存在争议,企业应在产品设计阶段就明确服务的性质定位,避免事后被重新定性。
第二,建立全生命周期的安全管理制度和梯度化的安全保障体系。从算法设计、数据训练、内容生成到用户交互、服务终止,每个环节都需嵌入合规审查,特别是对用户过度依赖的识别与干预机制、连续使用时长提醒机制、极端情绪识别与危机干预机制。在具体的产品交互中,企业需要建立动态响应机制。
第三,未成年人保护机制必须前置。企业需要建立有效的年龄验证机制,应设置明确的未成年人访问限制并采取积极措施对未成年人进行识别,确保未成年人无法接触虚拟亲密关系的服务。应完善监护人同意机制,对于十四周岁以下用户的其他拟人化互动服务,须明确取得监护人同意。企业在未成年人保护方面,应从形式上设置未成年人模式转向采取更积极有效的技术措施。[9]
第四,关注数据处理的特殊要求。《办法》明确,除法律另有规定或取得用户单独同意外,属于用户敏感个人信息的交互数据不得用于模型训练。这对依赖用户对话数据进行模型优化的AI企业构成重大影响,需要重新审视数据处理流程。
第五,关注具身智能领域的延伸适用。随着具身智能的不断发展,《办法》的规制逻辑可能从虚拟空间延伸至物理空间。具备拟人化外观和情感交互能力的仿生机器人,同样面临“是否构成拟人化互动服务”的合规问题。虽然《办法》目前主要针对软件服务,但其确立的“禁止诱导情感依赖”“禁止向未成年人提供虚拟亲密关系”等原则,对具身智能产品具有参照意义。
▌④ 未解之问
《办法》搭建了完整的监管框架,但若干核心标准尚未量化,构成企业合规的主要不确定性来源。
其一,“拟人化互动服务”的认定标准仍待制定精细化标准细则。目前完全依赖执法裁量,企业难以建立确定性的合规预期。
其二,紧急联系人义务的适用边界存在争议。第十二条要求所有用户在注册时提供监护人或紧急联系人信息,而征求意见稿原本将这一要求限定于“未成年人及老年人”。正式稿删除这一限定后,是否意味着所有成年普通用户均须填写紧急联系人?若严格按文义理解,这一要求覆盖面极广,且涉及额外个人信息的收集,是否符合最小必要原则,在法律界存在明显争议。
其三,安全评估的性质定位尚不明朗。《办法》第二十二条要求相关企业开展安全评估并向省级网信部门提交评估报告。但这究竟是大模型备案、双新评估,还是一项全新的独立评估类型,三者在评估内容、触发条件、提交对象上均有差异。目前法律界尚无定论,而年度核验要求意味着合规不是一次性动作,企业需要持续维护评估材料。在评估性质尚不明确的情况下,这一持续义务的履行边界同样模糊。
其四,具身智能的适用边界尚待厘清。《办法》主要针对软件形态的拟人化互动服务。人形机器人若通过云端连接提供持续情感对话,参照适用的可能性存在;但纯离线交互、本地部署的具身智能,目前仍处于立法空白。《办法》只是起点,具身智能的监管规则仍在路上。
参考资料
[1] 《多家头部厂商集中下线智能体功能》,证券日报,2026年7月6日。http://epaper.zqrb.cn/html/2026-07/06/content_1256387.htm
[2]《优必选回应仿生机器人伦理争议》,澎湃新闻,2026年7月6日。https://mp.weixin.qq.com/s/NmjBmllg5vxQrWh0WUl4dw
[3]李珏、位豪:《从产品机制角度简析AI拟人化互动服务新规》,北京清商律师事务所,2026年7月7日。https://mp.weixin.qq.com/s/fyAvcYpbzIFmLqMH3MQHXw
[4]袁立志、陈书琦:《AI情感陪伴监管倒计时:合规模块拆解与实务自查清单》,北京市竞天公诚律师事务所,2026年5月29日。https://mp.weixin.qq.com/s/3IhsLQkhyMR3xcI_5XyZgQ
[5]同[3]。
[6]California Senate Bill 243. https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202520260SB243
[7]曹建峰:《未成年人网络保护的治理范式正在发生转变》,法治周末报,2026年4月11日。https://mp.weixin.qq.com/s/IU7kT3NM3LyGcEu8YK7ItA
[8]《一起读| 人工智能拟人化互动服务管理暂行办法》,数据何规,2026年7月4日。https://mp.weixin.qq.com/s/-gjrj9ZqlIIzMNb4-BEE5Q
[9]周轶冰、段雨佳:《当AI拥有“人格”:人工智能拟人化互动服务的监管逻辑与合规应对》,环球律师事务所,2026年5月28日。https://mp.weixin.qq.com/s/03-d6HPykwpNhyDpB0jcUw
2
定盘|韬安视角
《办法》标志着我国AI治理完成了一次范式升级:规制客体从内容延伸至关系,关注AI如何影响了人的情感、行为与判断,保护法益从信息安全扩展至人格自主、心理健康与现实社交秩序。情感操控是否构成民事欺诈、AI伴侣诱导决策是否适用消费者权益保护规则、极端情境干预义务未履行将承担怎样的侵权责任,这些问题尚无现成答案,将在不远的将来成为争议焦点。
3
瞭望|本周速览(2026.07.06-07.12)
▌① 【国内·AI治理/监管执法】中央网信办"清朗·整治AI应用乱象"专项行动第一阶段收官
来源:网信中国
摘要:“清朗·整治AI应用乱象”专项行动自2026年4月启动,第一阶段聚焦大模型备案登记缺位、平台审核能力不足、AI数据投毒、生成合成内容标识落实不到位等问题,累计处置违规AI产品1.4万余款,下架违规AI商品1300余个、违规开源数据集9个。各地网信部门采取差异化整治路径,头部平台同步跟进主体责任落实。第二阶段将聚焦利用AI制作发布虚假信息、散播暴力低俗等不良信息、假冒仿冒他人、侵害未成年人权益、从事网络水军活动等突出问题。
【关注点】两点值得重点关注。其一,执法数据的规模印证了监管的实质推进力度,此前行业中普遍存在的备案缺位、标识缺失、审核流于形式等问题已进入常态化清查视野,合规观望策略的空间正在收窄。其二,第二阶段将矛头指向更具隐蔽性的新型乱象,执法重心向身份安全和信息操控延伸,这对MCN机构、虚拟数字人运营方、AI营销服务商提出了新的合规预警。
▌② 【国际·科技竞争/商业秘密】苹果起诉OpenAI,指控其窃取商业机密
来源:CNBC
(附超链接:https://www.cnbc.com/2026/07/10/apple-openai-lawsuit-trade-secrets.html)
摘要:苹果向北加州联邦法院起诉OpenAI,指控OpenAI及其两名雇员窃取绝密信息,用来开发自己的消费级AI硬件。苹果在诉状中称,OpenAI通过招募苹果公司前员工、利用招聘渠道和供应商关系等方式,系统性获取并使用苹果的商业机密。OpenAI回应苹果就硬件商业机密提起的诉讼,称对其他公司的商业秘密不感兴趣,OpenAI仍专注于打造创新技术。苹果要求OpenAI停止此类行为并销毁所有机密资料,同时重新设计即将推出的产品,确保其中不包含任何苹果技术。▌③ 【国际·AI治理/网络安全】欧盟发布《网络安全与人工智能行动计划》
来源:European Commission
(附超链接:https://commission.europa.eu/news-and-media/news/new-eu-plan-address-risks-and-opportunities-advanced-ai-cybersecurity-2026-07-07_en)
摘要:欧盟委员会近日提出《网络安全与人工智能行动计划》,应对AI既可强化网络防御、也可被恶意利用以自动化攻击和识别漏洞的双重属性。计划在《人工智能法案》《网络韧性法案》《网络与信息系统指令》《网络团结法案》等现有框架基础上,部署五项核心行动:建立先进AI模型上市前风险评估机制,并强化第三方评估能力;联合欧盟网络安全局制定先进AI系统结构化准入蓝图;搭建安全测试平台,为金融、能源、医疗等关键行业提供AI安全使用指导;推动各组织强化网络安全卫生实践并利用AI加快漏洞修复;启动“欧盟网络安全AI大挑战”,汇聚产学研力量开发网络安全AI解决方案。
【关注点】欧盟对AI的态度正从“监管优先”转向“监管与能力建设并重”,既通过前置评测约束滥用风险,又通过产业投资和技术竞赛培育自主能力,数字主权的考量贯穿始终。对出海欧盟的中国企业而言,两点值得关注:其一,《人工智能法案》AI模型风险评估条款将于8月2日生效,合规窗口期在缩窄;其二,欧盟将AI安全能力纳入关键基础设施保护框架,金融、能源、医疗等行业的AI应用将面临更严格的准入审查,跨境合规复杂度进一步上升。
向韬安提问
AI与法律交叠之处,新的问题层出不穷。如您在工作或生活中遇到与人工智能相关的业务需求或法律问题,欢迎留言或来信咨询,联系邮箱:ai@taoanlaw.com。我们会择取有代表性来信,在本栏目后续内容中进行专题回应。
- END -
本栏目文章为本所为本行业及社会公众提供的公益性普法服务,不属于针对具体事项或个案出具的正式法律意见,如存在具体法律问题,欢迎咨询本所执业律师。本文转载须保留/注明出处“北京韬安律师事务所·人工智能与数字资产法律事务部”,感谢您的阅读。


夜雨聆风