不追求AI占比最大化:保险AI如何分级治理?

不追求AI占比最大化：保险AI如何分级治理？

当一个AI项目进入业务验收阶段，经常会被问到一个问题：AI能够自动处理多少比例？

这个指标很直观，却也很容易把团队带向错误方向。

为了提高自动处理比例，一些规则不清、风险较高、需要专业判断的环节，也可能被交给AI。短期看，自动化数字上升了；长期看，却可能带来错赔、漏赔、投诉、合规和声誉风险。

图｜保险数智化转型·三化治理框架

一、先判断价值和风险，再讨论自动化

每个AI场景都应从两个维度进行评估。

业务价值包括：节省人工成本、缩短处理时效、提升质量、改善客户体验、减少损失和提高规模化能力。

业务风险包括：对客户权益的影响、金额规模、数据敏感性、模型不确定性、规则复杂度、错误可发现性和错误可逆性。

例如，材料分类、案件摘要和内部检索通常风险较低；责任判断、拒赔建议、反欺诈处置和大额赔付则会直接影响客户权益，风险明显更高。

相同的AI技术，不能采用相同的自动化等级。

一个更实用的判断方法是：

高价值、低风险：优先自动化并持续监控；

高价值、高风险：AI辅助或AI执行、人工确认；

低价值、低风险：评估投入产出后再决定；

低价值、高风险：原则上不优先使用AI。

二、建立四级人机协作模式

AI在流程中的角色可以分为四级。等级越高，AI拥有的自主性越强，对治理能力的要求也越高。

L1：AI辅助

AI负责检索、摘要、信息提取和提出建议，由员工完成判断和操作。

适合项目早期、高风险场景和需要积累评测数据的任务。例如：提取病历关键字段、生成案件摘要、检索责任条款。

这一阶段的重点是观察准确率、人工修改情况和错误类型，而不是急于减少人员。

L2：AI执行、人工确认

AI生成处理结果或发起操作建议，只有人工确认后才正式生效。

例如：生成补充材料通知、预填理赔字段、提出案件处理路径、形成客户回复草稿。

这一等级可以减少重复劳动，同时保留人工对客户权益和关键业务操作的最终责任。

L3：低风险自动化

对于规则明确、边界清晰、错误容易发现并且可以恢复的任务，可以由AI自动执行。

但必须设置明确的转人工条件，例如低置信度、规则冲突、金额超限、资料异常、系统返回不一致或服务调用失败。

低风险自动化不是“无人管理”，而是把常规路径自动化，把异常路径明确交给人。

L4：受限自治

AI可以在限定的权限、金额、数据范围和操作类型内，自主完成多步骤任务。关键节点仍保留人工审批，并允许人工随时接管。

例如，一个智能体可以完成材料读取、事实核验、规则查询、任务创建和进度跟踪，但不能越过金额上限、不能修改核心责任结论、不能在证据冲突时继续执行。

受限自治不是无限自主，而是在可验证边界内授权。

三、从L1升级到L4，需要满足什么条件

自动化等级不应由项目组主观决定，而应由运行证据推动。

每次升级至少应确认：

业务规则和适用边界已经明确；

数据与知识来源稳定、有效且可以追溯；

标准业务服务具备权限、幂等、异常和审计控制；

已建立覆盖正常、边界和异常案例的评测集；

AI置信度、规则冲突和服务异常能够触发转人工；

错误能够及时发现、停止、回滚或补偿；

责任部门、审批人和应急负责人清晰。

如果这些条件尚不成熟，就应停留在较低等级，通过人工确认继续积累数据，而不是为了展示效果强行升级。

四、治理对象不能只有模型

一个保险AI应用的行为，通常由多个对象共同决定：

模型及其版本；

智能体角色和任务边界；

系统提示词和业务提示词；

数据集、知识库和规则库；

MCP工具和业务服务权限；

工作流、审批流和异常处理；

评测集、监控指标和退出条件。

只管理模型版本，无法覆盖真实风险。

例如，模型没有变化，但知识库更新了一段条款、MCP工具新增了写权限、提示词改变了工具选择规则，应用行为都可能发生明显变化。

因此，保险公司需要建立统一的AI应用台账，记录场景、责任部门、模型、智能体、提示词、知识、工具、权限、评测结果、审批记录、监控指标和停用条件。

任何一项关键对象发生变化，都应进行影响分析和必要的回归评测。

五、建立覆盖全生命周期的治理机制

AI治理不应只发生在上线审批时，而应覆盖六个阶段：

上线前

除平均准确率外，还应测试边界案例、恶意输入、权限绕过、提示词注入、错误工具调用、知识失效和人工接管机制。

对于影响客户权益的重要场景，应重点验证依据引用、结果解释、人工复核和申诉纠正机制。

上线后

不能只监控服务是否在线，还要监控业务结果：人工采纳和推翻情况、异常转人工率、错误和投诉、单次成本、处理时效、越权拦截和风险事件。

退出和降级

如果出现持续质量下降、投诉增加、知识失效、供应商服务中断、重大合规风险或异常调用，应能快速降级到人工流程、关闭部分工具权限或停用AI能力。

“能够退出”是AI可以规模化上线的重要前提。

六、理赔场景中怎样配置AI角色

在同一条理赔流程中，不同节点可以采用不同等级：

材料分类和信息提取：可以从L1逐步升级到L3；

案件摘要和材料缺口：适合L2，由理赔人员确认；

小额、规则明确、资料完整的自动校验：在充分评测后可采用L3；

责任争议、大额赔付、疑似欺诈或低置信度案件：保持人工主导；

多步骤任务编排：可以在限定权限和关键节点审批下探索L4。

真正需要提高的，不是AI在流程节点中的数量，而是AI对成本、时效、质量和风险控制的净贡献。

七、怎样衡量AI应用治理

建议同时观察四类指标。

效果指标：建议采纳率、人工修改率、人工推翻率、自动处理成功率。

运行指标：平均处理时效、单次AI任务成本、服务成功率、知识检索命中率。

风险指标：异常转人工率、错误结果、投诉变化、越权拦截、敏感数据访问和高风险操作次数。

业务指标：单件处理成本、整体时效、质量提升、客户体验和风险减损。

如果AI处理比例上升，但人工返工、投诉或错误风险同步上升，这并不是成功的自动化。

管理者检查清单

每个AI场景是否完成了业务价值与风险分级？

AI当前处于L1、L2、L3还是L4，升级条件是否清晰？

影响客户权益的结果是否保留人工复核和纠正机制？

模型、提示词、知识、工具和流程是否纳入统一台账？

是否具备异常转人工、权限收回、快速降级和应急停用能力？

项目是否同时衡量业务结果、运行效果和风险指标？

结语：三化治理形成一个持续演进的闭环

四篇连载分别讨论了总体框架、业务能力服务化、数据知识化和AI应用治理化。

三者并不是三个彼此独立的建设项目：

业务治理定义AI应该完成什么任务；

数据与知识治理为AI提供事实、证据和业务语境；

AI应用治理决定AI在什么风险边界内完成任务；

实际业务结果再反馈到流程、数据、知识和AI应用中，推动持续优化。

对于保险公司而言，真正的数智化转型不是建设更多技术平台，而是建立一套业务、数据、知识和AI共同运行的新型生产体系。

在这个体系中，AI不是孤立的工具，也不是不受约束的替代者，而是一个能够理解业务依据、调用标准能力、接受风险治理并持续创造价值的新型业务参与者。

如果你正在负责保险公司的数字化转型、AI应用、数据治理或技术架构，欢迎关注“陈有所述”，也欢迎交流具体场景、内部分享和课程合作。