夜雨聆风学习资料网

ARTICLE · 1162363

智能体安全国标已立项:AI 开始替你“动手”,企业先划好哪几条线?

智能体安全国标已立项:AI 开始替你“动手”,企业先划好哪几条线?

过去企业用 AI,最怕它把一句话说错。现在更值得警惕的是:它可能把一件事做错。

一条客户报价流程里,AI 可以读取历史报价和客户资料、整理成本表、生成方案,甚至连接应用把结果发出去。前面几步都很省时间;但如果读错了客户文件夹、套用了旧价格,或者未经审核就对外发送,问题已经不是“重新生成一版”能解决的。

这也是为什么智能体安全开始进入标准制定议程。全国标准信息公共服务平台[1]显示,《智能体应用安全基本要求》(计划号 20263116-Q-252)是一项正在制定的强制性国家标准计划,下达日期为 2026 年 6 月 27 日,项目周期 18 个月。项目状态[2]仍为起草,不能写成“国标已经实施”,更不能说某款产品已经通过了这项标准的认证。

对企业来说,值得提前做的不是猜测未来条文,而是盘一盘:当 AI 从“给建议”走到“替人执行”,我们把权限和责任交代清楚了吗?

01 风险变了:错的不是答案,而可能是动作

国家网信办等三部门发布的《智能体规范应用与创新发展实施意见》[3]把智能体描述为具备感知、记忆、决策、交互和执行能力的系统。文件特别强调:智能体执行操作不得超出用户授权范围;重要应用场景要探索可验证、可追溯的行为机制。

放进企业业务里,这不是抽象的技术讨论。

假设一家企业把“客户询价—成本核算—审批—报价发送”交给 AI 协助。它写错一段说明,可以修改;它未经确认覆盖了成本底表、引用了过期价格,或把报价发错对象,影响就可能进入真实业务。一旦 AI 能调用文件和应用,企业要管理的不只是回答质量,还有它能做什么、什么时候必须停下来。

标准尚在起草,不代表企业现在没有规则可循。上述《实施意见》已经给出一个清晰方向:决策权限要分层,行为要受控,风险要能发现、干预和追溯。

02 别急着问“安全吗”,先把四件事写到流程里

不少企业的安全讨论停在一句“我们有权限管理”。真要上线一条业务链,这句话太粗了。更有效的是沿着业务动作,逐项回答:

第一,谁发起? 员工主动交办,还是 AI 在既定规则下自动触发?任务负责人是谁?如果跨系统执行,用的是谁的账号或授权?

第二,能碰什么? 哪些文件夹可读、哪些表格可改,哪些客户资料不能访问?不要把“能连接系统”等同于“应该开放全部数据”。

第三,哪里必须停? 批量覆盖、删除、对外发送、涉及金额或客户承诺的操作,在哪一步由谁审核?“AI 做完、人来签收”要写进流程,而不是靠员工临场想起来。

第四,出了问题怎么查? 能否找到任务发起人、调用的资料、执行的步骤、人工确认记录和最终版本?只留一张结果截图,不足以复盘一条业务链。

这四项不是额外增加的“合规文书”。它们直接决定 AI 能否从个人电脑上的试用,进入团队每天要重复执行的工作。

03 WorkBuddy 的权限开关,能解决哪一段问题?

以 WorkBuddy 桌面客户端为例,官方权限文档[4]说明,它提供“默认权限”和“完全访问权限”两种模式。默认权限以当前工作空间为主要边界;遇到越界或需要确认的高风险操作,会暂停并请求用户决定。官方建议日常保持默认权限,重要资料先备份,批量操作先看清目标文件和影响范围。

另一档“完全访问权限”会减少二次确认,而且一旦开启,会影响当前客户端内的所有任务,并非只对眼前这一个任务生效。官方明确不建议在处理客户资料、财务资料、生产资料或唯一副本时开启。产品更新日志[5]还显示,应用管理中可以查看已授权应用并撤销授权。

这些功能能帮助用户在本机操作时守住一部分边界,但不能替企业回答全部问题:谁审批连接业务系统?哪些岗位可以共享资料?对外发送前由谁签字?日志留存和复核按什么制度执行?客户端有确认弹窗,不等于整条企业流程已经安全,更不等于通过了尚未发布的国标认证。

04 企业真正要做的,是给一条业务链画边界

与其先列一张“禁止 AI 做的事”清单,不如选一条正在推进的业务链,把每个关键动作标出来。

仍以客户报价为例:业务人员提出需求;AI 可整理历史报价与成本资料;财务或产品负责人核对价格口径;对外版本由销售负责人确认后发送。每走一步,写明资料来源、可用权限、输出去向和签收人。

这样一来,哪些工作可以交给 AI 连续处理,哪些必须交还给人,团队会比讨论一百遍“AI 安不安全”更有数。上线后再用真实业务记录检验:有没有越权、有没有误用旧资料、人工确认是否真的发生、出了差错能不能定位。

易尚云作为 WorkBuddy 企业服务商,陪企业做的正是这段落地工作:梳理业务链和资料权限,配置可控的使用方式,组织业务人员试运行,并把验证有效的规则沉淀下来。目标不是把所有步骤都自动化,而是让 AI 能做的部分稳定执行、该由人负责的地方清清楚楚。

05 想从一条业务链开始梳理,进群交流

如果你们已经让 AI 处理客户资料、财务表格或跨部门流程,却还没有把“能读什么、能改什么、谁来确认”写清楚,欢迎扫码加入 WorkBuddy 企业 AI 落地交流群。群内会交流业务链拆解、权限边界和试运行验收的做法,并安排线上案例分享;有明确需求的企业,可进一步了解企业版体验与落地支持。

易尚云当前合作权益:采购 WorkBuddy 企业旗舰版 2 个月,赠送 1 个月;每席每月 2000 基础 Credits + 2000 加赠 Credits。 旗舰版涵盖腾讯文档、乐享知识库、腾讯设计 Ardot、每席 50G 腾讯网盘,以及安全与效能运营平台相关能力。具体合作条件可在群内咨询。

进群后可备注:行业 + 公司规模 + 最想梳理的一条业务链。

例如:装备制造|300 人|客户询价到报价发送。

安全不是等一部标准实施才开始做。AI 已经开始替企业“动手”,现在就该说清:哪些事它能做,做到哪一步必须把决定权交还给人。

引用链接

[1]全国标准信息公共服务平台: https://std.samr.gov.cn/gb/search/gbDetailedCNF?id=558A5B599E7FC47DE06397BE0A0AB03C

[2]项目状态: https://std.samr.gov.cn/search/orgDetailView?data_id=CA833F2667A7AB11E05397BE0A0A1987

[3]国家网信办等三部门发布的《智能体规范应用与创新发展实施意见》: https://www.cac.gov.cn/2026-05/08/c_1779979789523320.htm

[4]官方权限文档: https://www.workbuddy.cn/docs/workbuddy/From-Beginner-to-Expert-Guide/Function-Description/Permission-Modes

[5]产品更新日志: https://www.workbuddy.cn/docs/workbuddy/Changelog

相关学习资料