SaaS是软件放在厂商的云上,本地化部署则是把软件搬到客户自己的服务器上,数据留在客户内网。提到本地化部署,很容易把它单纯理解成一种技术层面的部署方式。对于智能体的落地而言,真做项目以时会发现,不止如此。
把一套软件安装到客户的服务器上,可能几天就能完成。更耗费时间的,是其他事情,包括软件能不能在客户的环境里稳定运行,怎么接OA,是否改变原来的流程,项目最后又按照什么标准验收。
这些事情全完成以后,才勉强可以说,一套AI系统在一家企业里“部署”下来了。所以智能体的本地化部署,最终部署进去的是一种新的工作能力,形成一种新的生产方式。
首先是技术环境。
过去的软件系统,安装、数据库、网络连通完成以后,大体上就可以开始用了。
AI系统多出了一个模型层。企业可能已经有自己的大模型平台,也可能指定必须使用某些模型;有的模型能力不错,但并发不够,导致智能体工作时排队严重;还有的模型在普通问答里表现很好,放到几十页合同的长文本任务里,速度和稳定性都不行,一个合同审查几十分钟,导致完全不可用。
因此,智能体的本地化部署一定包含模型适配。不是模型接口能够调通就算完成,而是要拿真实业务去跑,观察处理一份合同需要多长时间,同时有多人使用的时候资源是否扛得住,长文档会不会超时,不同模型之间如何组合更合适。最终形成一套能在真实环境中长期运行的方案。
相应地,本地化部署方案应该把资源准备、模型适配、性能基准和并发建议作为独立实施事项,而不是简单归入安装软件。
接着,是企业原来的工作流。
以合同审查为例,在产品演示时比较简单。上传一份合同,AI开始审查,然后生成结果。但一家企业原本就有自己的合同审批体系。业务人员可能从OA发起审批,也可能从采购、销售或者合同管理系统进入。合同经过哪些节点,法务什么时候介入,部门负责人什么时候审批,这些流程已经运行很多年。
AI真正落地,通常不要再给所有人增加一个新入口(本来就有很多系统了),而是尽量不给用户增加新的成本。做到这些,AI才从一个独立工具变成企业流程的一部分。
其中有大量细节要解决。比如账号最好直接接入企业已有的统一认证体系,组织架构和角色权限尽量沿用原系统,人员调岗或者离职以后权限能够同步变化,而不是AI系统自己再维护一套用户。
此外,审查结果怎样回写、附件如何关联、其他业务系统怎样收到结果,也都需要联调。
更花时间的,是整理企业自己的规则。
与传统软件相比,知识库很大程度影响智能体效果,也使得AI更懂用户。
这些知识很少整整齐齐地放在一个文件夹里等着AI读取。它们可能散落在制度、标准合同、风险红线、培训材料和过去很多年的审批意见里,还有一部分只是沉淀在资深法务的经验中。
要把这些口径拆出来,形成机器可以执行的规则。处理这些事情,会发现所谓企业知识与企业规则还不是一回事。知识可以被检索,规则则需要能够执行。
以合同审查而言,规则整理完成以后也不能直接宣布成功,还需要拿真实合同验证。经过不断测试、修改和重新导入,规则才逐渐从纸面制度变成系统真正能够使用的判断能力。真实项目中,规则梳理往往包括资料收集、拆解归纳、结构化、导入和真实样本验证,而不只是一次性的规则录入。
后续还要与智能体的自学习能力结合,在基础规则之上,能以最便捷方式持续更新。
最后,验收是关键环节。
项目验收时,要能够逐项回答合同解析是否正确,企业规则有没有稳定触发,系统之间能否正常触发和回写,统一认证是否生效,模型在实际环境中的性能是否达到要求,试运行期间发现的问题是否完成处理。以上还是以合同为例而言,具体事项还要有对应的数据指标。
项目最后验收的是一整条业务链路。部署、模型适配、统一认证、系统联调、规则导入、培训、试运行调优和最终验收,是连续的一套工作。验收以后,也还不是结束,进入持续运营优化阶段。
以上也是法天使做很多本地化项目之后的体会。
今天的大模型能力已经很强,单独拿出一份合同测试,往往效果不错,难的是把这种能力放进一家真实运行的企业。
那里已经有服务器、有几十套系统、有几千名甚至数万员工,也有运行多年的流程和一整套没有完全写在纸面上的管理习惯。AI必须适应这些东西,在此基础上优化。
于是,“交付”本身,就有了特别的价值。
关于法天使
法天使正在协助多家大型企业法务部落地AI合同审查,提供从规则梳理到系统集成的全流程服务,还有广告合规、制度审查、问答助手等法务AI场景。如果你正在关注这些问题,可以聊聊,也许能帮上忙。戳阅读原文,可开通法务AI平台体验。
夜雨聆风