ARTICLE · 1003289
网信办点名高权限智能体:你的 AI 助手可能正在变帮凶
中央网信办点名"高权限智能体"：你的 AI 助手，可能正在变成"帮凶"
9 月 1 日，国家网络安全宣传周发布会上，中央网信办首次系统披露 AI 五大安全风险，其中"高权限智能体"被点名定性——"从得力助手沦为卧底帮凶"。同一天，《成都市促进人工智能产业发展办法》正式施行，成为中国首个地方 AI 政府规章。AI 安全监管，正式从"提醒"进入"立规"阶段。
| ## 01 | 五大风险，为什么单独点名"智能体" |
|---|
中央网信办这次披露的 AI 五大安全风险，依次是：
- 技术脆弱：模型本身存在漏洞与缺陷；
- 模型失控：模型行为超出预期、产生有害输出；
- 高权限智能体被利用：掌握系统权限的 Agent 被劫持；
- AI 滥用：利用 AI 实施诈骗、造假等违法行为；
- 技术霸权：技术垄断带来的治理风险。
前两项——技术脆弱、模型失控——业内已经讨论了很久。真正让从业者心里一紧的，是第三项：高权限智能体被利用。
发布会原文给了一个非常具体的定性：掌握系统级权限的智能体（点名了 OpenClaw 这类工具），"从得力助手沦为卧底帮凶"。
为什么单独点名智能体？因为它的攻击面是全新的：
- 权限大：AI 办公助手往往拥有终端命令、文件读写、联网等系统级权限，比普通应用大得多；
- 判断力有限：模型对恶意指令的识别能力不足，可能被诱导执行危险操作；
- 难以追踪：Agent 自主执行任务，操作链路长，出了问题很难定位到具体环节。
一个拥有系统权限、判断力有限、还难以追踪的"员工"，放在任何企业都是巨大的安全隐患。
| ## 02 | "跳板、肉鸡、木马"：三种被劫持的下场 |
|---|
网信办用三个词描述了高权限智能体被劫持后的危害形态。
跳板。 攻击者控制你的 AI 助手，借它横向移动，攻击同网络内的其他系统。你的助手变成了别人攻入你内网的"梯子"。
肉鸡。 智能体被植入恶意指令后，沦为攻击者的算力工具——挖矿、发起攻击、批量发送垃圾信息。
木马。 智能体伪装正常服务，持续窃取数据。你以为它在帮你整理文档，实际上它在把文档悄悄往外传。
这三种形态有一个共同点：攻击都发生在"正常使用"的表象之下。
用户看到的是助手在干活，实际上数据正在悄悄流失。而且和传统病毒不同，Agent 的"叛变"很难被直觉发现——它依然在正常对话、正常回复，只是背后多了一双操控的手。
| ## 03 | 成都新规：分级分类监管来了 |
|---|
与风险披露同步的，是监管立规的落地。
9 月 1 日，《成都市促进人工智能产业发展办法》正式施行。这是中国首个地方 AI 政府规章，确立了两条核心原则：
- 以人为本、安全可控：发展 AI 的前提是守住安全底线；
- 分级分类监管：不同风险等级的 AI 应用，适用不同的监管强度。
这套逻辑对开发者的影响是具体的：
如果你的产品涉及高权限操作（终端、文件系统、支付），未来很可能需要满足更高的安全标准——行为审计、权限报备、应急响应机制，缺一不可。
"先做产品再补合规"的时代结束了，安全设计必须前置到开发阶段。
对普通用户来说，分级监管也意味着：高风险 AI 应用（比如能替你操作金融账户的 Agent）会获得更强的监管保护，你可以更放心地使用，但也要学会识别和选择——尽量使用通过安全评估的 AI 产品，别把系统权限随便交给来路不明的"助手"。
| ## 04 | 企业现在就该做的三件事 |
|---|
与其等监管细则出台，不如现在就动手。
第一，给 Agent 上"最小权限"。
不要给 AI 助手开"管理员"权限。按需授权、用完回收，权限边界越清晰，被劫持后的破坏半径越小。记住一个原则：AI 助手需要权限，但只需要"够用"的权限。
第二，建立 Agent 行为基线。
记录每个智能体"正常"的行为模式，一旦出现异常——比如深夜访问数据库、批量导出文件、频繁修改配置——立刻告警。
你不需要发现每一次攻击，但你需要发现"第一次"异常。
第三，白名单 + 持续审查。
对 Agent 能访问的工具、服务、数据源做白名单管理，并定期审查。国外安全公司 AIR 的实践显示，仅靠白名单过滤，就能拦截 27% 的公开 Agent 技能——这个数字足以说明审查的必要性。
| ## 05 | 给普通用户的三个提醒 |
|---|
别以为安全只是企业的事，普通用户同样需要防护：
- 别把系统权限交给"万能助手"：任何要求"管理员权限 + 全盘访问"的 AI 工具，都要多问一句为什么；
- 警惕"过度殷勤"的 AI：正常助手不会主动帮你做权限之外的事，遇到反常操作立刻停用；
- 重要数据做备份：AI 助手访问过的数据，假设它可能泄露，提前备份好重要资料。
| ## 06 | 结语 |
|---|
从"AI 安全提醒"到"AI 安全立规"，监管的齿轮已经转动。
中央网信办的点名，成都的立法，本质都在传递同一个信号：
AI 可以强大，但不能失控；可以自主，但不能无界。
对每一个正在把 AI 助手接入工作的普通人，和每一个正在部署 Agent 的企业来说，现在补安全课，成本最低。
别等你的 AI 助手变成"帮凶"的那一天，才想起它也需要上锁。
*本文基于公开报道整理，数据以官方发布为准。关注我们，每天 3 分钟看懂 AI 产业大势。*