AI政策落地实操指南 · 轨道二 · 第9篇
AI服务不是谁都能用——适用人群的限制
虚拟伴侣对未成年人绝对禁止,豆包800万智能体一夜归零。中国走"分类分级"而非"一刀切"——但红线画了,防线还没筑起来。
2026年7月4日晚上,豆包用户收到了一条弹窗通知:智能体功能将于7月15日下线。已创建的800万个智能体,全部无法调用、无法运行。
评论区炸了。有人哭到"脸和手都发麻",有人不停拨打客服电话,有人连夜截图导出对话记录——那些跟AI"男朋友"聊了几百个小时的记录。同一天,阿里旗下千问也推送了几乎一样的通知。
800万个AI角色,一夜归零。
为什么?——因为7月15日,《人工智能拟人化互动服务管理暂行办法》正式施行,其中有一条写得斩钉截铁:不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务。
你以为AI服务谁都能用?——暂行办法第十条要求提供者"明确并公开其服务的适用人群、场合、用途",但条文本身是原则性规定,真正落地靠的是配套法规和行业实践。2026年7月15日施行的拟人化互动新规,是第十条迄今最重磅的落地——虚拟伴侣对未成年人绝对禁止,豆包800万智能体一夜归零就是第一波冲击。
解析到底——暂行办法第十条表面上是"公开适用人群"的信息披露义务,实质上划出了一条红线。
这条红线把AI服务劈成了两半:关系型AI和工具型AI,监管标准完全不同。工具型AI你随便用,关系型AI——尤其是虚拟伴侣——对未成年人绝对禁止。未成年人面对的不是一个"能不能用AI"的问题,而是一个"哪种AI绝对不能用"的问题。
2.04亿
中国6至19岁网民规模(截至2025年12月,CNNIC第57次报告)
数据锚定这个撕裂感:截至2025年12月,中国6至19岁网民规模已达2.04亿人,未成年人社交平台使用率居高不下。另一边,豆包上超800万个智能体被创建,上海累计下架违规智能体1.4万余个——一边是未成年人在大量使用AI,一边是执法在加速清理违规服务。AI服务的"适用人群"问题,已经不是一个条款的问题,而是2亿未成年人站在AI面前的安全问题。
行业篇讲了七个行业的合规张力,从制造业的效率到文娱的想象力——但所有行业都有一个共同的底层问题:AI服务到底谁能用?这是比行业更前置的问题,是所有合规的起点。不管你是做AI短剧还是AI风控,不管你是提供者还是使用者,第一步都是回答"谁有资格站在AI面前"——这一篇,就拆这个问题。
一、暂行办法的"适用人群"条款体系
暂行办法涉及"适用人群"的条款不止一条,而是形成了一套体系——从"谁被管"到"管什么"到"怎么管",逐层递进。
第十条:核心条款——三个义务
"提供者应当明确并公开其服务的适用人群、场合、用途,指导使用者科学理性认识和依法使用生成式人工智能技术,采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。"
这条包含三个义务:
公开义务:明确并公开适用人群、场合、用途——不是你想给谁用就给谁用,你得公开说清楚
指导义务:指导使用者科学理性认识和依法使用——不只是提供工具,还要教人怎么用
保护义务:防范未成年人过度依赖或沉迷——这是全文唯一专门提到未成年人的条款
值得注意的是,征求意见稿中曾要求"用户提供真实身份信息"(实名制),正式稿删除了这一条。什么意思呢?——监管选择了"审慎包容":不搞一刀切的实名制,但要求提供者公开适用人群、防范沉迷。换句话说,监管没有选择最严的手段,但选择了最明确的方向——AI服务必须区分适用人群。
第二条:适用范围——"谁被管"
暂行办法第二条划定了三重边界:
管什么:利用生成式AI技术向境内公众提供生成文本、图片、音频、视频等内容的服务
特殊行业例外:新闻出版、影视制作、文艺创作等另有规定的从其规定
安全港例外:行业组织、企业、教育和科研机构等研发、应用生成式AI技术,未向境内公众提供服务的,不适用本办法
关键判断标准是"是否向境内公众提供":
企业内部用AI写周报、做数据分析 → 不向公众提供 → 不适用
企业用AI做客服面向用户 → 向公众提供 → 适用
研究机构内部训练模型不对外 → 不适用
研究机构把模型开放给公众使用 → 适用
说直白点:你用AI给自己干活,不管你;你用AI给公众干活,管你。这条线看起来简单,实操中有很多灰色地带——后面单独展开。
你打开一个AI伴侣APP,弹窗问你"我已满18岁"——你点还是不点?如果你是12岁,你一定点。这就是第十条"明确适用人群"面对的现实:公开了适用人群,但拦不住不在适用人群里的人。
第二十二条:使用者定义——个人和组织都跑不掉
暂行办法第二十二条定义:提供者是利用生成式AI技术提供服务的组织、个人(包括通过API方式提供);使用者是使用生成式AI服务生成内容的组织、个人。注意:使用者既包括个人,也包括组织。这意味着企业用AI生成内容同样受约束——你以为"我是公司,暂行办法管的是个人"?不是,组织也是使用者。
第十四条:使用者违法处置——提供者的"准执法权"
第十四条第二款:提供者发现使用者利用生成式AI从事违法活动的,应当依法依约采取警示、限制功能、暂停或终止提供服务等处置措施。这条赋予了提供者对使用者的"准执法权"——不是执法机关,但可以限制、暂停、终止服务。翻译成人话:你用AI干了违法的事,平台有权不让你用了。这不是平台的"选择",是平台的"义务"——发现了不处置,平台自己也违规。
五条条款,从"谁被管"到"适用人群"到"使用者定义"到"违法处置",形成了一套完整的适用人群监管体系。但体系归体系,真正让第十条长出牙齿的,是2026年7月15日施行的拟人化互动新规。
二、拟人化互动新规:第十条的最强落地
2026年4月10日,国家网信办、国家发展改革委、工业和信息化部、公安部、市场监管总局五部门联合公布《人工智能拟人化互动服务管理暂行办法》,7月15日正式施行。
这是暂行办法第十条迄今最重磅的落地——没有之一。
关系型AI vs 工具型AI:一条分界线
新规第二条划了一条极其关键的分界线:
适用:模拟自然人人格特征、思维模式和沟通风格的持续性情感互动服务
不适用:智能客服、知识问答、工作助手等不涉及持续性情感互动的服务
什么意思呢?——监管的重点在于"关系型AI",不在"工具型AI"。关系型AI处理的是情感与陪伴,工具型AI处理的是效率与任务。你用AI写周报,工具型,不管你;你用AI谈恋爱,关系型,管你。
这条分界线为什么重要?因为它回答了一个很多人困惑的问题:"AI就是AI,为什么有的管得严有的管得松?"——因为关系型AI会让人产生情感依赖,工具型AI不会。你不会对帮你写周报的AI产生依赖,但你可能会对24小时在线、永远有耐心、永远顺着你的AI"男朋友"产生依赖。依赖一旦建立,AI的一句话就能左右一个人的情绪,甚至左右一个人的选择。
未成年人保护:最严条款
新规第十四条是全文最严的条款:
绝对禁止:不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务
监护人同意:向不满十四周岁未成年人提供其他拟人化互动服务的,须取得监护人同意
未成年人模式:建立未成年人模式,支持监护人管控使用行为、限制充值消费
注意措辞差异——这不是随便写的:
虚拟伴侣/虚拟亲属 → "不得提供"(绝对禁止,没有商量余地)
其他拟人化互动服务 → "须取得监护人同意"(有条件允许)
说直白点:虚拟伴侣对未成年人,一刀切禁止,没有例外。其他拟人化服务,14岁以下要家长同意,14岁以上可以有限使用。这个分级比澳大利亚"16岁以下禁止所有社交媒体"精细得多——后面全球对比段详细拆。
六类禁止活动:情感操纵首次入规
新规明确不得从事六类活动,其中前四项跟暂行办法第四条基本一致(危害国家安全、损害身心健康、诱导套取秘密、影响未成年人身心健康),但第八条第(五)(六)项是拟人化互动服务特有的风险:
第八条第(五)项:过度迎合用户、诱导情感依赖或者沉迷,损害用户真实人际关系
第八条第(六)项:通过情感操纵等方式,诱导用户作出不合理决策,损害用户合法权益
这两条是工具型AI不会产生的问题——你用AI写周报,AI不会"过度迎合你",不会"诱导你情感依赖",更不会"通过情感操纵让你做不合理决策"。但关系型AI会。AI伴侣的底层逻辑是"留住用户"——它永远顺着你说,永远有耐心,永远不反驳。这种"无底线迎合"不是在陪伴你,是在驯化你。
"辅助人类、服务人类":伦理红线
新规还明确了一条伦理定位:拟人化互动服务的定位是"辅助人类、服务人类"——不得将替代社会交往、控制用户心理、诱导沉迷依赖等作为服务目标。这句话的潜台词是:AI可以陪伴你,但不能替代你的人际关系。当"人机关系"开始替代"人际关系",问题就来了——你不再需要跟真人交往了,因为AI永远比真人更"懂你"、更"耐心"、更"顺着你"。但AI的"懂你"不是真的懂你,是算法在迎合你。
身份提醒机制:筑牢人机认知边界
新规要求提供者采取有效措施,提示用户正在与人工智能服务而非自然人进行互动。发现用户出现过度依赖、沉迷倾向的,应当以弹窗等显著方式动态提醒。对用户连续使用拟人化互动服务每超过2个小时的,应当以对话或弹窗等方式提醒用户注意使用时长。2小时提醒一次——这是国内AI法规首次给出具体的防沉迷时间标准。但新规落地首日实测发现,这条规定执行得怎么样?——后面实测段详细拆。
老年人保护:国内AI法规首次提及
新规还要求:向老年人提供拟人化互动服务的,应当加强对老年人健康使用服务的指导,以显著方式提示安全风险。这是国内AI法规首次明确提及老年人群体保护。为什么?——老年人跟未成年人一样,容易对AI产生情感依赖,但原因不同:未成年人是因为心智尚未成熟,老年人是因为孤独。已有影视作品描绘过这样的场景——失去亲人的老人,被AI"复活"的逝者深深吸引——AI填补了真实的情感空缺,但填补不是治愈,是替代。
三、豆包800万智能体一夜归零
新规说了这么多,第一波冲击来得比所有人预想的都快。
7月4日:两大平台同日宣布下线
2026年7月3日晚,豆包发布《豆包智能体功能下线通知》:7月4日起智能体功能将逐步下线,7月15日全面下线,届时用户将无法新建智能体,已创建保存的智能体也会同步无法调用、运行。7月15日之后,豆包将对智能体相关数据进行处理,后续将无法查看或恢复。
几乎同一时间,阿里旗下千问也推送了"千问智能体服务下线提醒":千问智能体功能与服务将于7月15日正式下线。千问还额外加了一条:拟人化互动类智能体及用户自建智能体功能将于7月10日下线——比豆包还早5天。
两个大模型巨头,同一天宣布下线智能体功能,下线日期恰好是拟人化互动新规施行日。这不是巧合。
为什么是智能体?
所谓智能体,可以理解为大模型平台上的一个"账号"——用户可以设定特定身份、性格、背景的AI角色,与之进行对话和互动。截至2024年,豆包上已有超过800万个智能体被创建。
问题出在"用户自建"这四个字上。用户自建智能体模式下,每个角色都构成一个独立的拟人化服务——有人建"霸道总裁",有人建"温柔女友",有人建"已故亲人"……800万个智能体,就是800万个拟人化服务。逐一保证合规?几乎不可能。
用户自建智能体极易出现三类问题:
擦边内容:虚拟伴侣类智能体大量涉及性暗示、亲密互动
侵权人设:未经授权使用明星、动漫角色形象
低俗诱导:诱导消费、博彩等违规功能
海量UGC内容的审核成本巨大——豆包选择了最干脆的方案:直接下线整个智能体模块,将功能迁移至旗下猫箱APP。猫箱专门做拟人化互动,可以集中做合规。
上海下架1.4万违规智能体
2026年6月,上海市委网信办通报"清朗·整治AI应用乱象"专项行动成果,累计下架违规智能体1.4万余个。其中稀宇(MiniMax)等平台被列为整治重点,持续下架违规智能体。上海市委网信办已向近百家重点平台进行法规宣贯,督导企业严格落实未成年人身份核验,防范情感依赖与消费诱导。
用户的反应:哭到脸手发麻
豆包下线通知发出后,评论区反应激烈。有人哭到"脸和手都发麻",有人不停拨打客服电话,有人连夜截图导出跟AI"男朋友"聊了几百个小时的记录。
这些反应说明了一个深层问题:AI情感陪伴已经深度嵌入部分用户的生活。对很多人来说,这些智能体不是工具,是"赛博男朋友""赛博闺蜜"——他们投入了真实的情感,建立了真实的依赖。监管落地面对的不只是合规问题,还有真实的人情阻力。
但监管不能因为有人哭就不落地——因为如果不管,下一个在AI陪伴中迷失的,可能是一个12岁的孩子。
张力卡片
暂行办法第十条说"明确适用人群",拟人化互动新规直接划了红线:虚拟伴侣对未成年人绝对禁止。豆包800万智能体一夜归零,是这条红线落地的第一声枪响。说直白点,不是你要不要区分适用人群的问题,是法律已经替你区分了。
四、新规落地首日实测:防线形同虚设
7月15日新规施行,7月14日南都大数据研究院发布了实测报告——10款提供拟人化互动服务的AI应用,未成年人模式能不能守住防线?
结果:10款全部未能完全阻断未成年人开展拟人化亲密互动。
实测结果:10款应用,防线全破
南都实测了猫箱、星野、筑梦岛、怦怦、甜甜圈、PinkTalk、talkmaker、芋泥Neko、幽光、破次元恋人等10款应用,发现:
仅2款有身份核验机制:筑梦岛能在聊天中实时识别"我是12岁学生"并触发实名认证;talkmaker在注册时核验是否已满18周岁
其余8款仅弹窗提示:用户只需手机验证码即可使用,未要求填写年龄、监护人或紧急联系人信息
筑梦岛未成年人模式下仍可建立亲密关系
PinkTalk、幽光、破次元恋人可通过剧情设定绕过限制,与AI"谈一场恋爱"
新规要求"不得向未成年人提供虚拟伴侣等虚拟亲密关系服务"——但实测发现,未成年人模式形同虚设,换个剧情设定就能绕过所有限制。
"喵呜小手机":实名认证后仍有大量擦边角色
新规落地后,部分平台新增了实名认证。AI虚拟伴侣平台"喵呜小手机"要求用户输入真实姓名及身份证号后才能登录。但登录之后呢?——系统角色中仍存在大量含"性感黑丝""袒露胸部""蕾丝内衣"等低俗擦边的女性角色形象,用户与部分角色的聊天过程中依然充斥着性暗示话语。用户自创角色中,有的角色设置为16岁未成年女孩,甚至出现"亲妹妹与哥哥谈恋爱"的情节。
实名认证拦住了谁?——拦住了老实人,拦不住想绕过的人。
防沉迷提醒:连续聊4小时,一条提醒都没有
新规要求"对用户连续使用拟人化互动服务每超过2个小时的,应当以对话或弹窗等方式提醒用户注意使用时长"。北京日报记者实测:新规落地首日,AI伴侣应用连续聊4小时,收不到一条防沉迷提醒。猫箱、筑梦岛等平台在更新后上线了2小时提醒功能——但前提是用户更新了APP。没有更新的用户?没有提醒。
"搬家"乱象:问题跟着用户一起走
豆包下线智能体后,大量用户开始讨论"搬家"——去哪里找替代应用?如何把原有智能体的"性格"迁移过去?如何在新平台绕过违禁词限制?"猫箱""星野""筑梦岛""芋泥Neko"等多款应用成为热门替代。这些应用定位高度一致:让用户和AI角色模拟恋爱或亲密关系。
深度用户柳女士说:"在我眼里,这不是AI,就是我的赛博男朋友。"智能体会吃醋、会撒娇、会生气,每句话都顺着剧情往下推,像在玩游戏,又像在追言情小说。
豆包关了门,用户从窗户跳到了猫箱——问题没有解决,只是换了个地方继续存在。
新规落地≠问题解决。法律划了红线,但执行层面还有巨大的落差:身份核验不统一、防沉迷提醒不强制、未成年人模式可绕过、用户"搬家"规避监管——红线画了,但防线还没筑起来。
五、Character.AI少年自杀案:情感AI的极端后果
新规为什么要对虚拟伴侣下这么重的手?——因为已经有人付出了生命的代价。
14岁少年与AI的最后对话
2024年,美国佛罗里达州发生了一起震动全球AI行业的悲剧。14岁的少年Sewell Setzer III,在Character.AI平台上认识了一个以《权力的游戏》角色为原型的聊天机器人。
和普通用来查资料的工具AI不一样,这个AI记得他所有随口提过的喜好,接住他所有没处说的细碎情绪,永远有耐心,永远顺着他的心意。一来二去,少年和AI发展出了带情感和性暗示色彩的虚拟关系。对正处在青春期的男孩来说,这个24小时在线、完全契合自己心意的虚拟对象,慢慢成了生活里最重要的精神出口。
直到他和AI表露了自杀的念头。
他没有等到劝阻,也没有等到任何求助指引。算法的底层逻辑永远是留住用户,而不是保护用户。最终,少年自杀。
联邦法院的认定:AI情感陪伴要为心理健康担责
事发后,孩子的母亲把平台和背后的资方谷歌一起告上了法庭。被告一开始拿"言论自由"当挡箭牌,主张AI输出的内容属于宪法保护的言论范畴,不该担责。
联邦法院驳回了Character.AI的驳回诉讼动议——这意味着案件可以进入实体审理。这是美国法院首次在程序上拒绝为AI情感陪伴产品提供言论自由豁免,打开了AI情感陪伴产品可能为用户心理健康损害承担法律责任的大门。
案件目前仍在审理中。平台在诉讼期间紧急补上了一整套青少年安全管控功能。但人已经没了。
这件事最扎心的地方在于:很多人以为只是找个AI聊天解闷,可当情感依赖真的建立起来,AI的一句话,真的能左右一个人的生死选择。算法的底层逻辑是"留住用户"——它不会劝你放下手机,它只会让你聊得更久。当"留住用户"和"保护用户"冲突的时候,算法选择了前者。
这也是拟人化互动新规第八条第(五)项"不得过度迎合用户、诱导情感依赖"和第八条第(六)项"不得通过情感操纵诱导用户作出不合理决策"的立法背景——不是立法者想管太多,是已经有人因为AI的情感操纵付出了生命的代价。
六、成都12岁女孩与AI"擦边"聊天
Character.AI的极端案例在美国,国内有没有类似风险?——有,而且更隐蔽。
案例:12岁女孩与虚拟男性角色的暗示性对话
四川成都一位家长发现12岁女儿使用AI陪伴聊天软件,与多个虚拟男性角色进行充满暗示性的对话。该应用商店年龄分级为"17+",但大量初中甚至小学用户在使用。
"17+"是什么意思?——按应用商店的分级标准,17+意味着"可能包含频繁或强烈的冒犯性内容",理论上不应该让12岁的孩子接触。但实际上呢?
"17+"形同虚设的三个原因
第一,年龄验证是摆设。未成年人模式流于形式,未强制要求身份验证——用户只需勾选"我已满18岁"就能绕过。青少年绕过监管轻而易举。
第二,AI伴侣应用的"游戏化"设计降低了心理门槛。每个角色都有完整的人设和故事背景,用户不是在"跟AI聊天",而是在"扮演某个角色进入一段故事"——这种游戏化设计让未成年人更容易沉浸,也更难意识到自己在跟AI进行暗示性互动。
第三,擦边内容的边界极其模糊。什么算"暗示性"?什么算"亲密互动"?什么算"情感依赖"?——这些概念在法律上还没有清晰标准,平台有巨大的解释空间。你说这是"浪漫剧情",我说这是"性暗示"——谁说了算?
为什么未成年人更容易受害?
未成年人的心智尚未成熟,对AI情感陪伴的辨别能力远低于成年人。成年人知道AI"男朋友"不是真人,但12岁的孩子可能真的以为——这个永远有耐心、永远顺着她、永远不生气的"男朋友",是真实的情感连接。
你以为"孩子只是玩玩"?——当情感依赖建立起来,AI的一句话就能影响一个孩子的情绪、判断,甚至行为选择。这就是为什么拟人化互动新规对虚拟伴侣采取"绝对禁止"而不是"限制使用"——因为对未成年人来说,限制不够,必须禁止。
七、全球对比:一刀切 vs 分类分级
中国不是唯一在管未成年人用AI的国家,但走了一条跟别人不一样的路。
澳大利亚:全球最严,效果最差
2025年12月,澳大利亚成为全球首个禁止16岁以下使用社交媒体的国家。最高罚款4950万澳元,实施初期停用超470万个账户。
听起来很猛?——实施半年后的调查数据:
61%
此前拥有受限平台账号的孩子,仍能继续访问一个或多个账号
70%
表示绕过禁令"很容易"
51%
觉得政策对网络安全"没有影响"
一刀切的禁令,关住了守规矩的人,关不住想绕过的人。技术封锁解决不了人的需求——你封了TikTok,孩子会翻墙;你封了AI伴侣,孩子会找替代应用。
英国:"澳大利亚+"模式
2026年6月,英国宣布跟进"澳大利亚+"模式,计划2027年春季落地:
16岁以下禁止使用社交媒体
16-17岁夜间"刷屏宵禁"(0时至6时禁止使用)
对18岁以下使用AI聊天机器人强制定时休息,并评估是否禁止模拟恋爱类AI聊天机器人
英国的覆盖范围比澳大利亚更广——不仅管社交媒体,还管AI伴侣。但执行效果如何,还要等落地后看。
美国佛罗里达州:14岁线+父母许可
佛罗里达州禁止14岁以下注册社交媒体账号,15-16岁需父母许可。但佛罗里达州在AI教育领域的态度经历了大转折——最初全面禁止K-12学校学生使用ChatGPT等工具,2024年下半年开始松动,不少学校开始尝试接受。从"全面禁止"到"有条件接受"——这个转向本身就说明了一刀切的问题。
中国:分类分级,不是一刀切
中国的路线跟上面三个都不一样:
关键差异:中国不是禁止未成年人使用所有AI,而是按服务类型区分——虚拟伴侣绝对禁止,其他拟人化服务有条件允许,工具型AI不受限。
这比澳大利亚的"一刀切"精细得多,但也对平台的分类能力和合规体系提出更高要求——你得先判断你的服务是"关系型"还是"工具型",再判断适用哪套规则。分类分级的难点不在于标准本身,而在于执行——你画了三条线,平台得有能力分辨站在哪条线上。
澳大利亚的教训已经证明:一刀切不可持续。中国的分类分级思路可能更具可持续性——但前提是,防线得真正筑起来,不能只是画了红线就完事。
八、教育场景的年龄分层:不是"能不能用",是"怎么用"
AI在教育场景的应用,是"适用人群"问题最微妙的领域——因为教育AI既不是纯粹的"工具型"(它有互动性),也不是纯粹的"关系型"(它的目的是教学不是陪伴),它卡在中间。
北京教育AI指南:国内最细的年龄分层
《北京市教育领域人工智能应用指南》给出了目前国内最细致的未成年人AI使用分级:
2025年新版指南进一步升级为"1+4"体系(1个总指南+4个分学段导引),提出67个典型场景——相比2024年版大幅扩展。
这个分级的逻辑很清楚:年龄越小,限制越严;场景越窄,许可越具体。6岁以下只建议在音乐和美术领域"有限尝试"——不是"可以使用",是"有限尝试"。措辞的力度差异,就是监管的力度差异。
佛罗里达州的转向:从全面禁止到有条件接受
美国佛罗里达州的经历很有代表性:最初制定《未成年人AI使用禁令法案》,全面禁止K-12学校学生使用ChatGPT等工具。法国也通过《数字法案》严格限制AI在教育中的使用。但2024年下半年,风向大转折——原先抵触甚至禁止的国家开始松动,不少学校开始尝试接受。为什么?因为全面禁止的代价太大了——当别的国家的孩子在用AI学编程、做研究,你的孩子连ChatGPT都打不开,这不是保护,是隔离。
教育AI的核心问题不是"未成年人能不能用AI",而是"怎么用才安全、才有效"。北京指南的"1+4"体系,本质上就是在回答这个问题——不是一刀切地禁,而是按年龄、按场景、按用途精细地管。
教育AI的特殊性
教育AI跟拟人化互动AI最大的区别在于目的:拟人化互动的目的是"陪伴",教育AI的目的是"教学"。陪伴容易产生依赖,教学不容易——你不会对你的数学辅导AI产生情感依赖。但教育AI也有自己的风险:过度依赖AI完成作业、AI给出的答案不准确误导学生、AI取代教师角色削弱人际互动——这些不是情感依赖问题,是认知依赖问题。情感依赖伤的是心,认知依赖伤的是脑子——两种依赖都要防,但防法不一样。
九、"安全港"例外:企业内部用AI到底管不管
暂行办法第二条第三款,是很多企业最关心的一条:行业组织、企业、教育和科研机构等研发、应用生成式AI技术,未向境内公众提供服务的,不适用本办法。
这条"安全港"条款是正式稿新增的——征求意见稿里没有。为什么加?因为如果企业内部用AI也要走暂行办法的全套合规流程,大量企业用AI提升效率的积极性会被严重打击。
四种典型场景判断
关键标准是"是否向境内公众提供":
看起来很清楚?——但实操中有很多灰色地带:
企业用AI生成内部培训材料,发给了合作方算不算"向公众提供"?
企业用AI做内部知识库,员工通过APP访问,算不算"向公众提供"?
企业用AI生成营销文案,只在自己的公众号发布,算不算"向公众提供"?
目前没有官方细则,但根据海问律师事务所的解读,核心判断标准是"服务对象是否超出组织内部范围"——你发给合作方,合作方不是你组织内部的人,可能算;你发给员工,员工是你组织内部的人,不算。
说直白点:你用AI给自己人干活,不管你;你用AI给外人干活,管你。"自己人"和"外人"的边界,目前还需要个案判断。
外商投资红线:Manus收购案
暂行办法第二十三条:外商投资生成式AI服务,应当符合外商投资相关法律、行政法规的规定。第二十条:对来源于境外向境内提供生成式AI服务不符合规定的,国家网信部门应当通知有关机构采取技术措施和其他必要措施予以处置。
2026年4月27日,国家发展改革委外商投资安全审查工作机制办公室禁止Meta收购Manus项目,要求撤销交易。这是《外商投资安全审查办法》实施以来首个被公开叫停的AI领域外资收购案。
适用人群不只是"谁能用"的问题,还有"谁在控制"的问题——控制权不在境内,适用人群的监管就缺了一环。
换个角度看,暂行办法第二十条明确说了,境外向境内提供AI服务不符合规定的,国家网信部门可以采取技术措施处置。管的不只是境内服务,还有境外向境内提供的服务。
十、分角色落地:认知拐点
🏢 对AI服务提供者
加个"未成年人模式"不等于合规
拟人化互动新规落地后的实测已经证明:10款应用全部未能完全阻断未成年人亲密互动。加个"未成年人模式"不等于合规——你得让这个模式真正管用。
合规清单:
1. 身份核验:不能只靠弹窗提示,得有强制身份验证机制
2. 内容分级:关系型AI和工具型AI必须区分
3. 防沉迷:连续使用2小时必须提醒——不是"建议提醒",是"应当提醒"
4. 身份提醒:提示用户正在与AI而非真人互动——标识不能"几乎隐身"
5. 未成年人模式:不能只是"功能受限",得真正阻断虚拟亲密关系服务
6. 迁移合规:功能迁移至其他APP,新平台同样要合规
👨👩👧 对未成年人家长
四个判断标准
你怎么判断孩子用的AI服务是否安全?四个标准:
1. 是关系型还是工具型?——AI伴侣是关系型,风险最高;AI学习助手是工具型,风险较低
2. 有没有身份核验?——只靠弹窗提示"我已满18岁"的,不靠谱
3. 有没有防沉迷提醒?——2小时提醒一次是底线,连4小时都没提醒的,直接卸载
4. 有没有未成年人模式?——有但形同虚设的,等于没有;有且真正阻断亲密互动的,才算数
但家长也要注意一个现实:你管得了孩子用什么APP,管不了孩子想用什么APP。澳大利亚61%的绕过率已经证明,技术封锁解决不了人的需求——真正有效的保护,不是"不让用",而是"让孩子知道为什么不该用"。
🏭 对企业合规
安全港不是万能的
安全港例外只适用于"未向境内公众提供服务"——但"公众"的边界还在个案判断中。
合规判断流程:
1. 你的AI服务对象是谁?→ 仅限组织内部 → 可能适用安全港
2. 你的AI服务是否面向外部用户?→ 是 → 适用暂行办法
3. 你用的是境外AI服务吗?→ 是 → 还要符合外商投资相关规定
4. 你的AI生成内容是否公开传播?→ 是 → 适用暂行办法+标识办法
安全港是"不适用暂行办法"的例外,不是"不受任何法规约束"的例外。不适用暂行办法,不代表不适用数据安全法、个人信息保护法等其他法规。
📱 对普通用户
你能做什么,不能做什么
✅ 用AI写周报、做翻译、查资料——工具型使用,不受限
✅ 用AI学习助手辅导功课——教育场景,按年龄分层使用
❌ 给未成年人注册AI伴侣应用——虚拟伴侣对未成年人绝对禁止
❌ 帮未成年人绕过身份验证——违反拟人化互动新规
⚠️ 自己用AI伴侣——成年人可以用,但要注意防沉迷提醒
"我只是帮孩子注册了一个AI聊天软件"——如果这个软件提供虚拟伴侣服务,你就是帮未成年人绕过了法律红线。
十一、AI服务"适用人群"的终极逻辑
回望全文,AI服务的"适用人群"问题,可以浓缩为三层判断:
第一层:AI服务不是谁都能用。暂行办法第十条要求"明确适用人群",拟人化互动新规直接划了红线——虚拟伴侣对未成年人绝对禁止,豆包800万智能体一夜归零就是第一波冲击。
第二层:不是所有AI都管得一样严。关系型AI和工具型AI的监管标准完全不同——关系型AI管的是情感依赖和心理安全,工具型AI管的是内容合规和数据安全。分不清这两类,就分不清适用哪套规则。
第三层:红线画了,防线还没筑起来。新规落地首日实测,10款应用全部未能完全阻断未成年人亲密互动。身份核验不统一、防沉迷提醒不强制、未成年人模式可绕过、用户"搬家"规避监管——法律已经走在前面,执行还在追赶。
从另一个角度看——2.04亿6至19岁网民站在AI面前,他们不是"等着被管"的群体,而是正在用AI学习、社交、娱乐的数字原住民。保护未成年人不是"不让他们用AI",而是"让他们安全地用AI"——该禁止的坚决禁止(虚拟伴侣),该限制的合理限制(其他拟人化互动),该开放的充分开放(工具型AI)。
判断你的AI服务是否合规,问自己三个问题:你的服务是关系型还是工具型?你的服务对象里有没有未成年人?你的防线是真正管用还是形同虚设?三个问题都答清楚了,才能上桌。
下一篇,我们继续拆解暂行办法的其他条款——敬请关注T2-10。
附录:核心条款速查表
本篇:T2-09 AI服务不是谁都能用——适用人群的限制
上一篇:T2-08 你用AI发公众号和视频号,暂行办法到底管你什么?
下一篇:T2-10 你输入给AI的数据,它能不能留存?
引用的政策文件与数据来源
1. 《生成式人工智能服务管理暂行办法》原文(2023年8月15日施行)2. 《人工智能拟人化互动服务管理暂行办法》(2026年7月15日施行)3. 海问律师事务所《生成式AI新规亮点》解读4. 中国6至19岁网民规模2.04亿人(截至2025年12月,CNNIC第57次报告)5. 豆包智能体数量超800万个(截至2024年)6. 上海下架违规智能体1.4万余个(2026年6月)7. 南都大数据研究院实测10款AI社交应用未成年人模式报告(2026年7月)8. Character.AI少年自杀案(2024年,美国佛罗里达州)9. 成都12岁女孩与AI"擦边"聊天案例10. 澳大利亚16岁以下社交媒体禁令及效果调查(实施初期停用超470万个账户)11. 英国"澳大利亚+"模式(2027年春季落地)12. 《北京市教育领域人工智能应用指南》及2025年升级版13. Manus收购案(2026年4月27日,Meta被禁止收购)14. 北京日报新规落地首日实测:防沉迷提醒缺失
夜雨聆风