容诚金融洞察 | 银行保险机构如何构建AI应用管理闭环: 解读《关于银行业保险业人工智能安全开发应用的指导意见》

只有先解决“看不见、管不住、证不明”的问题，AI 才有条件从辅助工具稳妥嵌入核心业务流程。

近年来，银行保险机构持续探索人工智能 (AI) 的应用。智能客服、文本生成、知识检索、代码辅助、投研摘要、理赔材料整理等场景，已经在不少机构中出现。但一旦进入信贷审批、承保理赔、风险定价、投资交易、客户权益处理等核心环节，机构往往仍不敢将 AI 从辅助工具推向流程嵌入和决策支持。这种审慎，既源于对模型幻觉、误判、偏见、数据泄露和责任归属的担忧，也源于机构尚未形成一套能够获得管理层、风险合规部门和业务条线共同认可的 AI 治理体系。

国家金融监督管理总局于近期发布《关于银行业保险业人工智能安全开发应用的指导意见》（以下简称《指导意见》），明确金融机构开发应用人工智能应坚持“谁使用谁负责、自主可控、务实高效及安全发展”的原则。《指导意见》除总体要求外，围绕治理架构、开发应用、数据治理、算力建设、风险管理、能力提升、保障与监督七个方面提出32项指导性意见。本文重点从管理层责任、高风险准入、应用红线和现实治理缺口出发，分析银行保险机构如何建立可审计的 AI 应用管理闭环。

《指导意见》明确要求，金融机构开发应用人工智能应坚持“谁使用谁负责”。这一原则意味着，金融机构既是金融服务提供方，也是人工智能技术使用方。即使模型来自外部供应商、云平台、开源社区或第三方工具，机构也不能将风险责任外包。

对银行保险机构而言，这至少带来三方面变化。

AI 不再只是科技部门的事

AI一旦进入客户服务、信贷审批、承保理赔、风险管理、合规监测、投资研究、内部办公等流程，就需要业务、风险、合规、数据、科技、内审共同管理。管理层关注的重点，也应从模型效果扩展到审批责任、业务用途、客户权益、数据合规、输出可解释性和异常处置。

董事会和专门委员会的责任更加明确

人工智能开发应用应当纳入公司治理和全面风险管理框架，由董事会、管理层及相关专门委员会形成清晰的责任分工。尤其是在高风险应用场景中，AI 的上线不应只经过项目审批或技术评审，而须经本机构风险管理委员会批准后方可实施。未来监管检查、董事会监督和内审复核中，更可能被追问的是：AI 应用清单、高风险识别、上线审批、持续监测、异常留痕和整改闭环是否真正落地。

使用外部模型不能外包责任

金融机构使用外部大模型、云平台、开源模型或供应商工具时，仍需对使用场景、数据流向、输出结果和客户影响承担管理责任。机构应对外部人工智能技术建立内部评估框架，覆盖供应商资质、模型适用性、数据安全、服务连续性、集中度风险、合同权责和退出安排。对于生成式人工智能模型，还应关注模型准入、效能评估、安全合规评估以及外部模型备案要求。供应商完成备案或安全评估，只是外部技术准入的起点；机构仍需对具体使用场景、数据流向、输出结果和客户影响承担合规和风险管理责任。

《指导意见》的重点要求之一，是 AI 应用风险分类分级和高风险应用准入。

监管并没有把高风险AI应用简单处理成一个静态目录，而是要求金融机构“根据业务场景重要性、应用规模、对客影响度、模型依赖度、模型复杂度等因素，对人工智能应用进行风险识别和分类分级管理。”

AI 进入核心金融业务前，仅靠部门自评、技术评审或试点审批，已不足以满足高风险准入要求。涉及资金交易、资产评估、信贷审批、承保理赔、风险管理等，以及与客户利益直接相关、直接影响金融合约达成的生成式人工智能场景应用，应按照高风险应用纳入准入管理。对此类应用，机构需建立正式准入流程，明确审批主体、评估标准、控制要求和上线后监测机制，并经本机构风险管理委员会批准后方可实施。

高风险应用的准入至少要回答五个问题：

高风险准入是金融 AI 进入核心业务前的安全闸门。有效的准入管理，应当把“上线前能不能过”与“上线后能不能管”连接起来。

金融 AI 的特殊性在于，它往往同时连接客户数据、交易流程、风险判断和金融消费者权益。因此，银行保险机构不能只从模型性能角度理解 AI 治理，还必须把数据安全、个人信息保护、客户告知和生成内容管理放在同等重要的位置。

第一，个人信息和隐私数据不得用于生成式 AI 训练和优化。银行保险机构掌握大量高敏感度数据，在建设大模型、智能客服、智能理赔、投研助手、员工智能助手、RAG 知识库或智能体应用时，必须明确哪些数据可以进入模型，哪些数据只能在受控环境中调用，哪些数据不得进入训练和优化流程。仅做数据脱敏并不够，机构还应明确分类分级、授权审批、最小必要使用、访问控制、日志留存和效果验证要求。

第二，对客场景应明确 AI 身份和服务边界。生成式 AI 一旦用于客户服务、营销推荐、投诉处理、保险咨询、理赔沟通、财富管理辅助或其他对客场景，就会直接影响金融消费者的理解和判断。在对客或影响消费者理解判断的场景，机构应对人工智能生成内容进行显著标识，并向金融消费者主动说明AI使用方式、服务边界和可能限制。对客 AI 不能只追求“像真人一样流畅”，还要保证客户知道服务边界在哪里、重要事项由谁负责、出现争议时如何申诉和复核。

第三，生成式 AI 的输出不得在关键场景中未经复核成为最终依据。在涉及客户权益或实质性财务影响的场景中，AI生成的一段话、一个评分、一个风险提示、一份理赔摘要、一项信贷建议，都可能被业务人员或客户理解为机构判断。生成式大模型固有的“幻觉”现象，进一步加剧了合规风险。

要让AI应用从中后台辅助场景进入核心业务流程，机构首先需要解决治理信任问题。实践中，这种信任不足通常来自三类缺口。

没有统一资产视图，管理层就很难知道全机构到底有多少 AI 正在运行，哪些连接了客户数据，哪些已经进入核心业务流程，哪些依赖外部供应商。业务人员可能将客户投诉、理赔材料、投研资料或内部制度上传至外部大模型进行摘要；部门可能自行采购 SaaS 工具生成营销文案或客户画像；科技团队也可能在测试环境接入外部 API 辅助开发。这些场景如果缺少统一登记和审批，容易形成“影子 AI”。

核心场景不敢放开 AI，往往不是因为模型完全不可用，而是因为机构无法确信模型上线后仍然处于可控状态。传统 IT 管理更擅长管理系统、权限、变更和漏洞；传统模型风险管理更擅长管理评分卡、计量模型和统计模型。但生成式 AI 和智能体应用的风险更动态：可能出现幻觉、偏见、提示词注入、敏感信息泄露，也可能通过工具调用触发越权查询、越权写入或错误操作。

如果治理只停留在上线审批阶段，就难以覆盖模型运行中的持续风险。金融 AI 的管理，需要从“上线前评估”延伸到“运行中监测”，包括输出抽检、异常检测、权限监控、提示词管理、知识库更新、模型版本变更、外部服务状态、人工干预记录和客户反馈闭环。

核心场景使用 AI，最终一定会回到责任证明问题：为什么可以上线、出了问题谁负责、是否及时干预、是否已经补救、机构是否尽到管理责任。很多机构并不是没有做控制，而是控制证据分散在不同部门和系统中。数据脱敏记录在数据团队，供应商审查材料在采购或科技部门，模型测试报告在研发团队，风险评估在合规或风险部门，审批记录在办公系统，运行日志在平台侧，异常处置又在业务条线。

一旦监管、董事会或内审要求说明某个高风险 AI 场景的准入依据、运行状态、客户影响和异常处置记录，机构往往需要临时拼凑材料。这种状态下，即使控制实际存在，也难以形成稳定、可复核、可追溯的证据链。

要让 AI 从外围辅助场景进入更核心的业务流程，银行保险机构首先需要构建一套可执行、可检查、可持续更新的治理闭环。这个闭环无需从一开始就追求“大而全”，更现实的切入点则是把现有科技风险、模型风险、数据治理、第三方管理、消费者权益保护和内审机制连接起来，形成几项清晰的管理抓手。

可以从四个方面入手：建立AI 资产总账、建立高风险准入机制、建立控制矩阵与证据链、建立管理层看板及内审机制。