夜雨聆风学习资料网

ARTICLE · 1200735

企业让AI开始执行任务,谁来授权与追责?

企业让AI开始执行任务,谁来授权与追责?

10月10日,NocoBase发布一组Agent相关测试版组件,增加运行请求与负责人确认机制。企业让AI多做一点事,首先需要安排的,可能是授权工作。

因为一句“帮我处理一下”,进入公司系统以后,可能变成以某个人的身份访问资料、运行工具或改变工作状态。

这次更新给出了两种具体路径:其他人发起任务时,可以等待事项负责人确认,也可以按发起者自己的身份运行。请求支持拒绝、撤回和失效,并记录发起者、确认者等信息。这是特定Agent运行机制的Beta更新,尚不能概括为所有企业操作已有完整审批。NocoBase官方版本说明。

它让一个管理问题变得具体:谁的要求,应该动用谁的权限?

设想一个销售助理,让AI整理某客户的交易记录。如果系统使用销售助理自己的权限,能读取的范围应该与他的岗位一致。如果系统直接借用销售经理的账号,原本受限的信息就可能进入他的任务结果。

同样一句话,执行身份不同,业务后果也不同。

再设想,AI收到“把这份报价发给客户”。需要确认的内容包括客户、金额、报价版本,以及发送这件事是否已经被授权。能读懂句子,只解决了其中一部分问题。

在企业里,发起请求、批准动作和承担业务责任,可以是不同的人。设计系统时,应该把这些角色分别记录下来,避免所有行为最后只剩下一个公共账号。

「AI可以代替人执行动作,企业仍要明确动作由谁授权。」

很多团队采购AI工具,会先问它能连接多少系统。对于能执行任务的AI,更有价值的问题是:连接以后,可以做哪些事,在哪些条件下做,出了错怎样恢复?

这里需要区分运行批准和业务批准。负责人同意Agent开始工作,并不意味着他同意工作过程中发生的每一笔付款、每一次客户通知或每一次数据删除。

因此,企业不能只加一个“同意运行”的按钮,就认为权限问题解决了。任务开始后的关键动作,还要依照业务规则控制。

可以先按影响安排试点。查公开产品资料、整理已有记录,适合从只读范围开始。修改内部台账,需要核对字段、权限和变更记录。向外发送信息、修改重要价格,则需要把待执行内容交给有权人员确认。

这些控制应该进入实际执行流程。界面上提醒“请谨慎操作”,如果后端仍接受越权请求,业务风险不会因为出现了一行提示而消失。

还有一种情况需要测试:工具超时以后,系统没有收到结果。再次执行是否会重复发送信息或重复修改记录?负责人能否先查看实际状态,再决定重试?授权与执行记录连在一起,人工接管才有依据。

软件定制的机会,就在把公司的管理规则落实到系统里。

项目负责人购买的,可能是一套能够进入现有协作方式的Agent任务台账:同事提出需求,事项负责人审批,执行环境按身份选择,结果回到任务记录,异常交给指定人员。

IT负责人购买的,则可能是身份系统与执行环境的连接。员工调岗、离职或负责人变更后,旧任务能否继续执行,使用的凭据是否仍有效,都需要具体规则。

业务负责人还需要可核对的操作记录。一条任务应该能够回答:原始请求是什么,确认了哪个版本,使用哪个身份,调用了什么工具,改变了哪些内容,什么时候停止。

考虑一个常见变化:请求等待审批期间,客户资料被更新了。系统最终执行的内容,是原先确认的版本,还是重新读取后的版本?对外发送前是否需要再核对?这些细节需要在需求阶段谈清楚。

自动化带来的收益,也要把审批时间计算进去。如果每个低风险动作都需要经理确认,原来的重复劳动可能只是变成了重复点击。真正需要的,是按业务影响配置边界,并持续检验规则是否合理。

所以,企业可以把试点目标定得很具体:让一类高频任务,在明确权限内完成,同时能够被追踪、暂停和接管。

验收时既要测试顺利执行,也要测试边界情况。换一个无权限用户发起,撤回尚未执行的请求,重复点击确认,更换事项负责人,检查任务是否按预期处理。

任务完成率、人工介入时间和异常处置时间,可以帮助判断流程是否有价值。越权或重复执行的情况,则必须单独检查,不能被较高的完成率平均掉。

NocoBase这次更新仍是测试版,更适合用于小范围验证。它提供了明确的工程方向;企业自己的岗位权限、审批条件和恢复办法,还需要逐项设计。

如果你正在推进Agent项目,可以先找业务、IT和系统供应商一起讨论一张表。

把准备自动化的动作列出来,每一行写清发起者、批准者、执行身份、允许范围,以及出错后的负责人。挑选其中一项只读或容易恢复的任务,先在测试环境走通。

当这张表里的规则能够被系统执行、被日志证明,再逐步扩大AI可以承担的工作。

雪艺软件AI转型专家

相关学习资料