当AI从“工具”升级为“代理人”:智能体新规下的公司治理重构

你们公司现在有几套AI在工作？客服机器人、代码辅助、合同审查、财务对账——当AI不再“回答”，而是自主规划、调用工具、执行操作时，作为公司管理者，你必须回答一个核心问题：当AI做决定，谁最终负责？

2026年5月8日，国家网信办、发改委、工信部联合发布《智能体规范应用与创新发展实施意见》（“新规”），首次在国家层面系统性定义“智能体”为“具备自主感知、记忆、决策、交互与执行能力的智能系统”。监管指向清晰：AI从“说话”走向“做事”，治理重心必须从内容转向行为。对公司而言，这不仅关乎合规，更是一场从顶层到执行层的系统性能力重塑。

本文将从公司治理视角，拆解新规核心影响并提供可落地建议。

一、本质跃迁：从工具到代理人

新规明确指出，智能体正在“加速与网络空间、物理世界深度融合，深刻改变人类生产生活方式和社会治理模式”。这并非停留在理论层面。制造业的生产调度智能体已可自主优化排程、调配资源；金融机构的风控AI能在秒级完成贷款审批。此时，AI已非被动工具，而是拥有代理权限的行动者。

实际影响与风险

当智能体获得自主决策与执行权限，它便扮演了“数字员工”或“数字代理人”角色。根据《民法典》第162条，代理行为后果由委托人承担。这意味着：公司开放给智能体的权限，即其所承担的潜在责任边界。

典型风险场景包括：

智能体越权访问客户数据，导致泄露；
在授权范围内做出错误决策，造成经济损失；
被诱导执行异常操作，触发合规风险。

行动建议

第一步：建立AI代理权限清单。全面盘点公司所有智能体，明确其功能边界、数据访问范围及操作权限等级。此清单应作为董事会理解AI风险的基础文档。

第二步：重构授权决策流程。参照新规“明确决策权限”的要求，厘清三类边界：仅限用户本人决策（如重大合同签署）、需用户授权决策（如批量数据处理）、可由智能体自主决策（如标准查询响应）。须为后两类建立清晰的授权协议与管控机制。

二、用户最终决策权：治理的最后防线

新规明确要求“确保用户对智能体自主决策享有知情权和最终决策权，智能体执行操作不得超出用户授权范围。”这一条款直接指向当前市场上部分AI产品以“智能”之名，悄然转移用户决策权并使其事后不知情的乱象。新模式将面临合规挑战。

双重挑战（对内与对外）

对外（面向客户/用户）：产品或服务若嵌入智能体，企业必须确保用户能实时了解AI行为并保留收回授权的能力。这是建立用户信任的基础。

对内（面向员工）：当员工使用公司部署的智能体时，需界定“用户”是谁；如需记录交互，内部治理架构则需重新设计。

此外，新规提出发展“规则内嵌、行为围栏”技术，表明行为管控将从“事后审计”转向“实时围栏”。

行动建议

建立AI操作审计机制。为所有智能体建立操作日志，记录每次决策的时间、触发条件、输入概要、执行动作与结果，作为合规与追责依据。

设计“人类兜底”（Human-in-the-Loop）机制。对高风险操作（涉及资金、数据删除、外部发布、敏感信息披露），强制设置人工确认环节。

制定智能体使用协议。对内明确员工权责边界，对外清晰披露AI自主决策范围并提供便捷权限管理界面。

三、分类分级治理：精准匹配治理资源

新规构建了分类分级治理框架：

敏感及重点行业

（如医疗、金融、交通）：实行备案、检测、问题产品召回等严格管理。

低风险领域

（生活娱乐、日常办公等）：通过合规自测、信息报告、行业自律实现高效治理。

核心逻辑是：风险越高，管理越严；风险越低，自治空间越大。

企业应对策略

企业需根据自身业务场景匹配治理强度：

风险等级	典型场景	合规义务
高风险	智能风控、智能医疗、智能驾驶、金融交易决策	备案、检测、召回，定期接受监管评估
中风险	智能客服、内容审核、数据分析辅助	自我评估、信息报告、建立内部合规流程
低风险	内部知识问答、日程管理、文档生成辅助	合规自测，参照行业最佳实践

新规还提出“健全合规服务体系”，支持第三方评测与认证结果互认。企业可借此借助专业机构完成合规评估。

行动建议

开展智能体风险分级评估。结合业务场景，评估每个智能体的数据敏感性（涉及隐私/商业秘密）、决策影响度（是否影响物理或经济状态）、操作可逆性。

匹配差异化治理资源。高风险智能体配置专职合规人员及定期审计；中风险智能体建立使用规范与异常报告；低风险智能体纳入日常运维。

关注行业监管动态。密切关注本行业监管细则的出台窗口，提前准备。

四、行业自律与信用评价：公司自治能力试金石

新规构建了行业自律与信用评价机制：

行业自律：

鼓励行业组织、主要企业联合制定自律规则，涵盖算法治理、知识产权保护、公平竞争等细则。

信用评价：

探索建立市场主体自愿参与的信用评价机制，对技术滥用、诱导消费、虚假宣传等行为开展失信惩戒。

其核心激励在于：鼓励企业在“他律”前先做好“自律”，并将自律表现纳入市场信用体系。

对公司治理的双重含义

正向激励：积极参与行业自律与标准制定的企业，将在市场竞争中获得合规优势。“良币驱逐劣币”的市场环境正在形成。

负向约束：忽视合规的企业，将在政府采购、平台准入、融资合作等方面面临障碍。未来，缺乏合规记录的智能体将难以获得市场认可。

此外，新规提及“探索建立智能体注册平台，提供智能体数字身份管理、检索发现、能力声明等服务”，这意味着每个智能体未来都可能拥有追溯其开发主体与合规记录的“数字身份证”。

行动建议

加入行业自律组织。关注并参与本行业相关协会与标准制定，在规则形成阶段及时介入。

建立内部合规体系。参照新规，提前构建覆盖数据安全、算法治理、用户权益保护、供应链安全的合规制度，展示治理能力。

重视信用记录积累。主动开展合规自测与第三方评测，及时整改并留存记录，为未来信用评价奠定基础。

五、供应链安全：被忽视的治理盲区

新规专门强调供应链安全，要求制定全周期安全规范，加强模型接入、API调用、扩展工具等环节管理，探索建立信息共享与预警机制。这直接针对企业在引入智能体时普遍存在的“黑盒依赖”问题。

主要风险层面

模型层：依赖的第三方模型存在训练数据、安全性或服务连续性风险。模型层问题会直接传导至应用层。

工具层：使用的RAG、代码环境、第三方API等工具若存在漏洞，可能成为攻击面。

扩展层：智能体插件生态若缺乏安全管理，极易成为攻击向量。新规提及的“扩展工具”正是此风险的体现。

行动建议

建立供应商准入机制。要求供应商提供智能体完整组件清单、数据来源说明及安全认证报告，将供应链安全纳入评估体系。

实施供应链安全监测。对智能体的模型调用、工具使用与数据流向持续监测，并建立应急响应预案。

考虑国产化替代。对于涉及核心业务或敏感数据的智能体，优先考虑合规国内模型或私有化部署方案，降低外部依赖风险。

结语：智能体时代的公司治理能力

回到开篇：当AI替你做决定，谁来负责？新规已给出明确答案：公司是最终责任主体。

AI角色从“工具”到“代理人”的转变，要求公司治理能力系统性升级。这不仅是技术部门的职责，更是董事会与高管层必须面对的核心议题。

建议企业从以下五点着手构建治理框架：

将智能体治理纳入公司整体治理框架，而非孤立的技术事项。
建立AI决策权限管理制度，清晰划定人机协作边界。
完善智能体供应链安全管理，从源头防范风险。
主动参与行业自律，在规则形成阶段争取话语权与主动权。
积累合规信用记录，为未来市场竞争奠定基础。

智能体时代的竞争，不仅是技术和业务的竞争，更是治理能力的较量。能管好AI的企业，才能用好AI。

本文部分内容经人工智能辅助生成，仅供参考，不构成正式法律意见。

负面清单来了，你的数据治理体系准备好了吗？

数据知识产权质押融资：企业如何用“数据”换“真金”？

数据合规负责人，是找个"背锅侠"还是真管用？

AI开源许可证的法律效力--企业使用开源模型需要注意什么？