生成式AI存在多项风险，针对性提出一套模型验证体系

生成式人工智能包含多种模型架构，目前在银行业应用最广的4类架构为：大语言模型（LLM）；小语言模型（SLM）；代理式人工智能（Agentic AI）和自主系统；扩散模型和多模态模型。

金融机构正利用这些模型实现自动化分析，提升报告质量并辅助决策制定。主要的应用领域包括自动信贷决策、知识管理和政策查询、软件代码生成和数据迁移、交易监控与合规管理、风险预警系统、数据质量和元数据管理、以及环境、社会和治理（ESG）和声誉风险评分等。

虽然生成式人工智能在银行业有广泛的应用场景，但也带来了与传统模型相比更为显著的风险，包括数据隐私与保密问题、模型偏见与伦理困境、可解释性缺失与“黑盒”治理难题、模型“幻觉”与误导性输出、第三方依赖与系统性集中度风险。

因此，毕马威提出了一套生成式人工智能模型验证体系：

模型框架分析。验证过程的第一步是全面理解模型能够实现的功能、以及输入和输出。对于生成式人工智能而言，这需要跳出算法本身，来分析整个系统架构、数据关联关系和模型运行的特定业务环境。初始阶段应明确模型的适用范围，即模型能可靠运行的具体边界。

模型输入质量。第二个阶段是对用于开发生成式人工智能解决方案的“原料”（数据）和“配方”（配置）进行严格检查。在模型内部逻辑通常是非线性且难以解释的情况下，确保高质量的输入和稳健的配置是防止幻觉输出、异常行为以及模型漂移的主要保障。

模型部署与输出质量。第三阶段是对模型部署环节的完整性和输出表现的验证。这一阶段是衔接理论设计和实际投产的关键纽带，确保模型已从设计方案落地为稳健的、可用于生产的系统，能够在银行自有的技术架构环境中可靠运行。

验证结论和模型审批。最后，验证团队根据验证发现评估风险水平，并确定补偿性控制措施（人工干预、内容过滤、使用范围约束等），并最终出具验证报告以及给出模型审批建议（完全批准/有条件批准/驳回使用）。

毕马威也对各个阶段进行了更详细的介绍。

头部银行AI支出已占IT总预算15%以上，银行需重点关注6方面

银行人力将由“数字员工”和“人类”构成，未来的AI人才或分为3种

《报告》在“AI将如何重塑组织与人才”部分提出3个根本改变，其中一个为人员能力由“执行力”转变为“治理力”。当AI能执行绝大多数标准化任务后，人类的核心价值由执行转向理解AI，“治理”Al，为其提供愿景，并进行正确的引导与约束。未来人才不再是单纯的执行者，而是AI的“调度者”“监督者”与“监护人”。未来商业银行的“人力资源”，将由擅长执行操作的“数字员工”与擅长AI治理的“人类员工”构成。

值得一提的是，《报告》中进一步对AI时代的人才进行了分析。

《报告》显示，银行的岗位设计、人才标准与协作机制应随AI能力的引入而同步演进，有研究提出一个以AI取代传统管理协调功能的组织模型，该模型将未来人才描述为三种核心角色：

• 独立贡献者（Individual Contributor，IC）：各自领域的专家，专注深度创造；

• 直接负责人（Directly Responsible Individual,，DRI）：任务指挥官，对客户结果负责;

• 球员教练（Player-Coach）：既要亲自下场干活，也要负责培养团队。

《报告》介绍，独立贡献者的工作职责主要为模型与策略研发、复杂产品设计、智能体训练与校准；直接负责人的职责为资源调度与编排、结果复盘与优化、风险与合规兜底；球员教练的职责则是亲自参与高难度任务、培养员工、沉淀方法论与知识库。

对于银行而言，培养AI人才或者提升员工的AI素养，将是AI布局中非常重要的一环。

来源：智探AI应用