乐于分享
好东西不私藏

AI评论:一刀切关停私有智能体功能违背分类分级监管初衷

AI评论:一刀切关停私有智能体功能违背分类分级监管初衷
引言
近期主流AI平台关停主应用内用户自建智能体功能,仅将包含公开分享、广场分发的整套模块迁移至旗下独立APP运营,此举引发大量创作者、办公使用者的广泛质疑与不满。平台对外宣称调整系落实人工智能拟人化相关监管法规、防范网络风险、保护未成年人权益,但从法规条文、产品底层逻辑、风险根源、整改实效多维度剖析,本次调整属于典型“避重就轻的形式化整改”:既没有从源头封堵合规漏洞,也未能真正化解未成年人AI沉迷隐患,还粗暴剥夺了普通用户合法的私人工具使用权,混淆公域传播服务与私域自定义工具的法定边界,甚至出现过度收集个人信息、转嫁合规成本、漠视用户私密创作资产等多重问题。
当前国内AI行业监管体系已形成完整法规框架,《人工智能拟人化互动服务管理暂行办法》《生成式人工智能服务管理暂行办法》确立“分类分级、包容审慎”核心监管原则,《个人信息保护法》划定个人信息收集的最小必要红线,《未成年人网络保护条例》明确平台青少年防护的精细化义务。监管政策的核心导向清晰:从严约束面向全网公众、具备传播属性的拟人化AI公域服务,包容仅供个人使用、无对外扩散能力的私有自定义工具,禁止以统一管控为名一刀切限制无公共风险的私人功能。而本次平台整改方案完全背离上述立法与监管初衷,仅通过迁移功能载体、关停主端入口完成表面合规动作,底层风险、风控短板、资质漏洞丝毫未得到解决,值得深入辨析与探讨。
一、风险根源不在用户私用行为,平台增设公域传播通道才是合规隐患的始作俑者
要厘清本次整改的核心矛盾,首先需要区分两个完全不同的产品使用场景:用户私有自用智能体,与对外开放、支持全网分发的公域拟人服务,二者风险属性、监管标准应当完全割裂。
从功能本质来看,用户自建智能体属于纯粹承载个人私有私密信息的自定义工具。用户创建专属智能体的核心诉求,是自主设定专属对话逻辑、录入个人创作资料库、存储写作大纲、办公模板、专属问答规则等私人内容,所有录入、存储的资料仅用户本人可见,全程不存在主动对外传播、面向公众输出内容的天然属性。该类工具的定位,与互联网领域长期普及的浏览器书签、证券软件自定义技术指标、办公软件自定义公式与模板高度同源。浏览器书签仅保存个人网页收藏,证券指标仅适配个人交易分析,办公模板仅服务单人创作,此类功能数十年间从未被监管要求强制实名、限制使用,核心逻辑在于:工具仅承载用户私密信息,不存在影响公共网络环境、向不特定人群输出内容的可能性,天然无公共风险。
据此可以得出核心结论:当前行业内出现的拟人角色违规扩散、不良导向内容传播、无资质虚拟人设泛滥等全部风控隐患,并非源于用户私下创建、自用智能体的行为,而是平台为追逐流量增长,主动给私有自定义工具叠加公开广场、一键分享、全网复制、热度榜单、首页推送等全套公域传播功能,人为制造出的合规漏洞。
在未增设分享、广场功能前,用户创建的智能体仅个人可见,即便部分用户录入存在不当导向的规则,内容也仅留存于个人账户内,无法对外扩散,不会产生公共危害;平台为提升产品活跃度、打造社区流量生态,打通私域到公域的传播通道,允许任意普通个人一键发布自制拟人角色至全平台广场,搭配流量榜单推荐机制放大曝光,才让隐蔽的不良设定获得大范围传播渠道。风险的创造主体是平台产品设计行为,而非普通用户的私用需求,平台整改却选择惩罚无风险的私用功能,放任制造风险的公域分发逻辑持续存在,逻辑上完全本末倒置。
部分观点认为,只要具备拟人交互能力就应当统一管控,该说法混淆了“交互对象”这一监管核心判定标准。监管文件中重点约束的“人工智能拟人化互动服务”,明确限定为持续性面向不特定社会公众提供情感陪伴、虚拟人设交互的经营服务;仅用户本人与智能体一对一对话、无第三方接触场景,不属于法规划定的专项监管范畴,不存在强制限制、统一管控的法定依据。
二、公域拟人服务存在刚性企业资质门槛,普通个人无运营能力与合规资格
平台放任普通个人将自制智能体公开发布至广场,本身已经触碰AI拟人化服务的合规红线,这也是本次监管收紧的核心诱因之一,但平台整改并未针对该核心漏洞出台管控措施,仅简单迁移功能载体,无资质运营的问题依旧存续。
依据《人工智能拟人化互动服务管理暂行办法》与《生成式人工智能服务管理暂行办法》双重规定,持续面向公众提供虚拟恋人、陪伴式拟人交互属于高风险专项互联网服务,运营主体必须满足全套硬性资质条件:仅限企业法人主体运营,完成大模型备案、算法安全备案、拟人化专项网信安全评估,搭建7×24小时人工内容审核团队、完整未成年人保护机制、内容溯源下架体系等一整套合规架构。上述全部备案、评估、资质办理流程,均明确排除自然人个人申请渠道,普通用户无论是否完成账号实名,都不具备运营公域拟人服务的主体资格。
从实操层面而言,普通个人同样不具备公域运营的管控能力。公域拟人角色依托大模型动态生成内容,结合用户自定义隐性规则,回复具备极强不可预测性,个人无法实时甄别、拦截对外输出的不良信息;而企业平台具备完整的多层内容过滤、关键词拦截、人工复核机制,能够承担对外传播内容的主体责任。市面上所有引发监管关注、产生不良社会影响的违规拟人角色,均是依靠平台广场流量、榜单曝光实现大规模传播,绝非用户私下自用产生的问题。
但平台在产品设计阶段,并未设置任何企业主体准入门槛,未区分个人账号与企业账号的发布权限,任何普通用户都可一键将自制智能体公开发布至社区广场。本次整改仅将整套包含分享、广场、榜单的模块迁移至独立APP,并未关闭普通个人的公域发布权限,也未增设企业资质核验通道,无资质自然人运营公域拟人服务的核心合规漏洞完全保留。仅仅更换APP运营载体,无法改变运营主体资质缺失的根本问题,等于将全部原有风险完整转移至另一款产品,并未落实监管要求的源头管控。
三、AI智能体与公众号风险层级天差地别,照搬图文分发模式本身就是设计缺陷
平台搭建智能体广场、分享分发生态,参考的是微信公众号的成熟分发模式,但刻意忽略二者底层技术、内容形态、审核难度存在本质鸿沟,盲目照搬低风险图文产品的运营逻辑,是风控失效的重要诱因。
微信公众号属于静态图文内容载体,平台企业统一承担全部合规资质与审核责任,用户发布的文章、图片为固定定稿内容,文字、图像全部可视化,审核人员可以直观完整阅览全部内容,违规内容识别、溯源、批量下架操作简单可控,整体风险等级极低。公众号不存在动态生成内容、实时调取外部信息的能力,内容发布后永久固定,不会随对话、联网检索产生不可预判的衍生内容。
而对外开放的AI智能体具备三重叠加的高风险属性,与静态图文完全不具备可比性:其一,底层依托大模型原生知识库运行,模型内置海量训练数据,对话过程中会自主调取知识生成回复;其二,搭载实时联网动态检索功能,能够即时抓取互联网实时信息,内容具备高度动态、实时可变特征;其三,叠加用户自主编写的隐藏规则、私有私密资料库,用户自定义的诱导话术、隐性价值导向埋藏在后台配置中,无法直观查看。三者结合之下,智能体对外输出的回复不可预判、底层违规设置高度隐蔽,人工与机器前置审核很难完整筛查全部潜在风险,审核难度远超图文公众号,因此国家专门出台AI拟人专项法规,设置远高于普通自媒体的合规标准。
平台只复制公众号“公域广场、流量榜单、一键分享”的引流外壳,却没有配套适配AI动态生成特性的高强度多层风控体系,既未限制个人公开发布权限,也未针对用户私有自定义规则建立全量审核机制,人为放大全网传播隐患。本次整改依旧保留同款广场分发模式,仅迁移至独立APP,完全没有修正照搬图文产品运营逻辑的底层设计缺陷,高风险AI内容随意公域传播的问题没有任何改善。
四、强制私有自用智能体实名违背《个人信息保护法》最小必要原则,公私域实名边界被刻意混淆
平台对外提出管控理由之一是实名溯源,但实名机制仅适用于公域信息发布场景,延伸至纯私用自定义工具属于过度收集个人信息,存在合规瑕疵。
实名制度的法定作用,仅限用户对外发布公共信息、向不特定人群传播内容后,用于事后追责溯源,属于风险发生后的补救手段,无法提前拦截用户后台隐藏的诱导规则,不能替代平台前置审核、合规备案的主体义务。现行法规清晰划定边界:仅提供公共信息发布、即时通讯、社区内容分享等具备对外传播属性的服务,才可要求用户完成实名;全程私密、无任何对外分发渠道、仅存储用户个人创作私密信息的工具,收集身份证、手机号等实名信息超出合理使用范围,违反《个人信息保护法》第六条“收集个人信息应当遵循最小必要原则,不得过度收集”的强制性规定。
结合前文类比的浏览器书签、办公自定义模板、证券指标等工具,全行业从未对该类纯私用功能设置实名门槛,核心逻辑就是不存在公共信息发布行为,无需核验真实身份。反观平台整改方案,隐含“无论公私使用场景,智能体功能统一要求实名”的逻辑,刻意模糊公域发布与私域自用的边界。监管文件从未要求私人自用AI自定义工具实名,该要求是平台自行增设的管控规则,不仅加重用户使用负担,还违规采集不必要的身份信息,存在个人信息保护层面的合规漏洞。
合理的管控边界应当清晰拆分:仅用户主动开启公域分享、将智能体对外分发时,强制账号实名用于事后追溯;彻底切断分享通道、仅供单人使用的私域智能体,全程无需实名,既满足监管溯源要求,也守住个人信息保护法律底线。
五、迁移至独立APP无法消解任何底层本质风险,属于典型形式化整改
本次整改最核心的争议点在于,平台并未关停具备公域传播能力的智能体模块,仅整体迁移至同主体旗下独立APP,试图以更换产品载体的方式完成合规调整,但无论从技术、合规、传播、未成年人保护任一维度分析,拆分APP都无法消除固有风险。
第一,底层技术风险完全不变。独立APP内的智能体依旧沿用同款大模型、实时联网检索能力,同时保留用户自定义隐藏规则、私有资料库功能,动态生成、隐性诱导、审核困难的核心技术隐患完整保留,更换软件载体不会改变内容生成逻辑与风险特性。
第二,企业合规主体责任无法拆分豁免。主APP与独立APP隶属于同一家运营企业,面向公众提供拟人化AI服务的主体不变,企业应当承担的大模型备案、算法评估、内容审核、未成年人防护等全部法定义务不会因拆分产品而减轻。监管追责针对运营企业主体,而非单一APP,仅拆分功能无法规避企业的整体合规责任。
第三,公域传播漏洞丝毫未封堵。独立APP完整保留广场、一键分享、热度榜单等全部分发通道,依旧允许无企业资质的普通个人公开发布拟人智能体,当初人为制造风险的传播渠道没有关闭,无资质自然人运营公域AI服务的核心合规漏洞持续存在。
第四,未成年人沉迷风险完整转移。独立APP同样开放无限制拟人情感交互,没有针对动态AI对话增设更强的时长管控、情感诱导内容拦截机制,仅更换使用入口,无法解决未成年人容易对虚拟人设产生情感依赖、过度沉迷的底层问题。
从整改动机分析,平台此举本质是规避主应用的监管压力,将高风险模块转移至曝光度更低的独立产品,完成表面上的“主端清零”,但没有从架构上分层管控公私场景,不愿投入成本搭建企业资质准入、公私域隔离、精细化青少年防护体系,以最低成本完成形式整改,将合规压力转嫁至普通创作者。
与此同时,平台未配套用户数据迁移方案,用户长期沉淀的小说设定、办公资料库、专属问答模板等私密创作资产,缺少一键导出、平滑迁移通道,大量用户数年的创作心血被无端搁置,平台未提供任何补偿、备份解决方案,严重漠视用户数字资产权益。用户投入大量时间搭建私有智能体用于学习、写作、办公,属于合法合理的生产工具需求,一刀切关停主端入口,却不保障数据导出权,进一步加剧整改方案的不合理性。
六、一刀切整改无法解决未成年人沉迷问题,避重就轻暴露防护体系短板
平台关停私有智能体的另一核心理由是防范未成年人AI沉迷,但该逻辑存在根本性逻辑错误:未成年人产生情感依赖、过度使用AI的根源,是APP原生基础对话功能,而非仅供单人使用的私有自建智能体。
所有用户打开软件即可直接与通用AI对话,无需创建专属智能体,原生对话窗口天然具备全天候情感倾诉、情绪陪伴、虚拟安慰功能,完全能够满足未成年人寻求情感寄托的需求,该功能并未随本次整改做任何限制。换言之,即便彻底删除自建智能体功能,未成年人依旧可以通过基础对话实现长期、高频情感交互,沉迷风险完全存续。
《未成年人网络保护条例》对平台的硬性义务有清晰界定:应当搭建精细化青少年防护体系,包括分级使用时长锁、情感诱导类对话拦截、青少年专属轻量化内容池、监护人远程管控通道、不良内容一键举报等多重机制。法规全文没有任何条款要求平台封禁用户私人自定义工具,仅要求针对对外传播内容、通用对话交互设置防护措施。
平台长期未能完善基础对话的青少年管控短板,不去优化通用对话的时长限制、情感内容过滤,反而选择限制无公共传播风险的私有智能体,属于典型避重就轻、虚假整改。私有自用智能体仅存储个人私密设定,不存在向其他未成年人扩散虚拟人设、不良导向内容的渠道,限制该功能对未成年人保护不存在任何实质增益。即便独立APP内的公开智能体强制实名,缺少前置企业资质审核,未成年人依旧能够浏览、使用他人发布的违规拟人角色,未成年人保护的核心漏洞没有填补。
七、符合监管精神的分层治理方案:严管公域、包容私域,平衡合规与用户权益
结合现行全部法律法规与监管“分类分级、包容审慎”的核心原则,兼顾平台合规义务与用户合法使用需求,一套合理、可落地的整改方案应当清晰拆分公私两大场景,无需一刀切关停私用功能:
公域场景从严管控:永久关闭普通个人智能体的公开分享、广场推送、全网复制传播通道;仅允许完成全套AI专项备案、具备完整资质的企业主体,申请公开发布情感拟人角色;主动选择对外分发内容的企业账号强制实名,留存完整数据用于事后追责溯源,同步搭建全量自定义规则前置审核机制。
私域场景包容放行:全体成年、未成年用户均可正常使用私密自建功能,后台永久切断一切对外分享、公开、复制通道,智能体内容仅个人账户可见;私域使用全程不强制实名,恪守个人信息最小必要收集原则;针对未成年人配套差异化精细化防护,设置单日使用时长上限、自动拦截易产生情感依赖的自定义设定、开放监护人查看管控通道,不粗暴剥夺工具使用权。
该方案既严格落实监管对公域拟人服务的强管控要求,从源头封堵无资质个人扩散虚拟人设的合规漏洞,又保留用户用于办公、写作、学习的私人工具,无需牺牲用户数字资产与使用权益,同时通过分级防护完成未成年人保护义务,完全契合监管平衡安全与创新的立法初衷,不存在一刀切带来的各类矛盾。对比平台当前仅迁移模块、不隔离公私场景、不封堵分享通道的整改模式,优劣一目了然。
八、平台官方说辞存在多重法律与逻辑漏洞,刻意曲解监管导向
梳理平台对外发布的调整说明,其中多处解读刻意曲解法规条文,回避自身产品设计的核心过错,存在明显逻辑漏洞。
第一,片面解读监管文件,回避“分类分级、包容审慎”核心原则。平台笼统宣称全部拟人智能体功能统一管控,刻意模糊“面向公众公域服务”与“单人私用自定义工具”的法定边界,忽略法规明确区分两类场景、差异化管控的要求,以此合理化一刀切调整行为。
第二,回避自身五大核心产品设计过错:一是主动为纯私有私密工具叠加广场、分享等高风险公域传播通道,人为制造合规隐患;二是流量扶持无资质拟人引流角色,未设置企业主体准入门槛,放任个人违规运营公域AI服务;三是盲目照搬低风险公众号图文分发模式,无视AI动态生成、实时联网、用户私设叠加的超高风险属性;四是混淆公私域实名边界,意图对纯私域工具强制实名,违反个人信息保护最小必要原则;五是仅拆分至独立APP完成形式整改,底层技术、分发渠道、风控短板完全保留,未从源头化解风险。
第三,旗下独立APP完整保留智能体创建、公开分享全套功能,直接佐证自建智能体本身并非违规功能,风险来自公域分发设计。平台只是不愿承担主产品精细化分层改造的成本,选择牺牲全体创作者的使用权益,简化自身合规运营压力。
结语
人工智能行业监管的最终目的,不是限制用户正常的生产、创作工具,而是约束无序、无资质、面向公众的高风险互联网传播服务,守住网络内容安全、未成年人保护、个人信息保护三条底线。本次平台关停主端私有智能体、仅迁移模块至独立APP的整改方式,完全偏离分类分级监管的核心精神,是一场治标不治本的形式化调整。
风险根源是平台搭建的公域广场分享生态,而非用户私下创建自用智能体的需求;未成年人沉迷的核心载体是通用基础对话窗口,而非仅供单人使用的私有Bot;AI智能体的高传播风险源于动态生成与联网检索,简单更换APP载体无法消除任何底层隐患。一刀切限制无公共危害的私人自定义工具,不仅无法解决监管关注的核心合规问题,还损害海量创作者、办公人群的合法权益,浪费用户长期积累的数字创作资产,同时存在过度收集个人信息的法律瑕疵。
平台若要真正落实监管要求,应当摒弃形式化整改思路,放弃一刀切管控模式,搭建公私场景隔离的分层风控体系:永久关闭普通个人的智能体公域分享通道,严格落实公域拟人服务企业资质准入制度,完善全产品通用对话的未成年人精细化防护机制,保留纯私域、无对外传播能力的自建智能体功能,并配套完整的数据导出服务。唯有平衡合规管控与用户合理需求,从产品底层架构化解风险,才能真正契合人工智能监管“严控公域风险、包容私域创新”的初衷,实现行业健康发展与用户权益保护的双向统一。
作者:陈欧侃(AI协助撰写)