夜雨聆风点击蓝字
关注我们
AI Agents沙盒揭示效率红利与重大风险并存，银行治理框架面临考验
2025年8月，新加坡政府联合Google启动了全球首个面向公共部门的AI Agents沙盒测试项目。参与方包括新加坡网络安全局（CSA）、新加坡政府技术局（GovTech）和资讯通信媒体发展局（IMDA），历时约四个月，对具备“计算机使用能力”的AI Agents在真实政务场景中的表现进行系统性评估。2026年5月公布的测试结果具有双重信号：AI Agents在效率提升方面远超预期，但同时也暴露出安全漏洞、数据隐私隐患和决策透明度不足等关键问题。这一发现对正加速推进AI转型的亚太地区金融机构具有重要警示意义。
1
沙盒实测：效率红利显著
沙盒选取了三个具有代表性的政务用例进行测试，结果均指向实质性效率跃升：
自动化质量检测。AI Agents被部署于政府网站的QA测试任务，能够自主评估页面响应时间、搜索功能和页面完整性，区分真实生产网页与占位或测试环境内容，并基于动态用户界面做出判断和调整——突破了传统脚本化测试的能力边界，实现了从“执行指令”到“自主判断”的跨越。
AI安全测试。AI Agents被用于对政府聊天机器人进行大规模安全检测，跨语言、跨格式地识别潜在漏洞。在多语言、多格式提示词的输入中，AI Agents接近全准确率，大幅减少了人工评估所需的时间和人力。这一用例直接验证了“用AI测试AI”的可行性。
社会援助申请导引。AI Agents辅助公民和社会工作者完成复杂的福利申请流程，能够识别缺失或不一致的信息（如财务信息不完整时及时提示补充），显著降低了对线下协助、热线电话和人工跟进的依赖，在公共服务可及性层面展现了AI Agents的普惠潜力。
三个场景共同指向一个结论：AI Agents在自动化重复性任务、客户服务、风险评估和合规审查等领域具备大规模部署的技术基础，能够释放可观的效率红利。报告指出，AI Agents的价值不仅在于效率提升，还体现在分析能力增强、任务执行一致性和韧性提高，以及更强的可审计性和可追溯性。
2
风险暴露：四个不容忽视的隐患
然而，沙盒测试同样揭示了AI Agents在实际决策场景中的核心脆弱性：
第一，自主决策风险。AI Agents可能在未经充分人工审核的情况下自主采取行动或作出决策。如果设计不当，这可能削弱公众信任，尤其是在决策可能对个人产生现实影响的场景中。社会救助申请场景中，申请流程存在多个需要人工介入的关键节点——例如当代理缺乏足够信息完成字段填写时，绕过人工审核将带来不可逆的后果。
第二，网络安全风险——间接提示注入。这是最受关注的技术隐患。测试中发现，攻击者可以通过在网页内容中嵌入隐藏指令，诱使AI Agents执行非预期的恶意操作。在救助申请场景中，AI Agents甚至曾因误读网页文本为指令而导航至其他潜在恶意网站。当AI Agents被赋予访问内部系统、处理敏感数据的权限时，这一攻击向量将构成系统性威胁。
第三，安全过滤器与定制化部署之间的冲突。实验初期，AI模型的默认内容安全过滤器将本应无害的测试提示词标记为“无帮助”或“潜在有害”而加以拦截，导致测试进程中断。这揭示了一个深层矛盾：通用安全保护机制在专业受控场景中可能成为障碍。负责任的部署需要在“锁定控制”与“允许定制化以满足特定需求”之间做出审慎权衡。
第四，数据保护与隐私泄露。基于浏览器的AI Agents依赖截图感知来“看到”并交互数字界面，这些截图可能无意中捕获屏幕上显示的个人敏感信息（如财务细节、身份证号）。实验中还测试了“数据最小化”原则：向代理提供申请不需要的额外信息，测试其能否区分相关信息与无关信息。在相当数量的案例中，代理会将无关信息填入申请字段。这种对数据最小化原则的违背制造了“效用—隐私”的两难——虽然访问个人数据能为代理提供上下文、帮助其更准确地完成任务，但也显著增加了隐私泄露的风险。
3
监管回应：MAS推出AI风险管理指南
沙盒结果出炉之际，新加坡金融管理局（MAS）早已未雨绸缪。2025年新加坡金融科技节期间，MAS正式发布了《人工智能风险管理指南（AIRG）》征求意见稿，面向所有金融机构征求意见，截止日期为2026年1月31日。一旦定稿，将给予行业12个月的过渡期。
AIRG的核心框架包括五大支柱：
治理与领导力。董事会和高级管理层必须将AI纳入机构风险偏好框架，建立专门的跨职能AI委员会——AI治理不再是模型风险或IT治理的附属议题，而是一个独立的治理层级。管理层须具备挑战重大AI决策的专业能力和制度授权。
AI识别与清单管理。金融机构必须明确定义何为“AI”，并建立集中式AI资产清单，覆盖内部模型、商用产品、嵌入式AI、云端工具和决策引擎等全部系统，逐一记录用途、数据来源、验证历史、依赖关系和风险责任人。
三维风险分类。AIRG提出了一套创新的三维评估框架：影响度（错误或偏见可能造成的损害程度）、复杂度（从简单确定性工具到生成式/代理式模型）、依赖度（从辅助人类到完全自主）。这一框架确保监管要求与风险水平相匹配——低风险客服聊天机器人不会受到与交易或合规模型同等的监管强度。
全生命周期管控。覆盖数据质量与公平性、可解释性（高影响模型须提供人类可理解的解释）、人工监督（员工具备真正的干预权限和技术理解力）、第三方风险（供应商实践、模型谱系、安全性、集中度风险）、测试与验证（性能、稳定性、公平性、亚群体分析）、持续监控（漂移检测、异常追踪、早期预警、停用能力）和变更管理（明确何时微调或重训构成"重大变更"需要重新验证）。
内部能力与人才。机构须在数据科学家、模型验证师、风险专家和IT专业人员方面具备充足资源，不应假设供应商能填补全部能力缺口。MAS正与银行与金融学院（IBF）及行业合作，加速提升金融从业人员的AI技能——MAS副董事总经理何恒心将其定位为新加坡维持“值得信赖的金融中心”的核心支柱之一。
4
宏观隐忧：AI驱动的增长能否惠及整体经济？
在技术治理之外，监管层对AI的系统性风险还有更深层次的担忧。MAS董事总经理谢啇真（Chia Der Jiun）在瑞银亚洲投资会议上发出警告：全球增长可能正在过度依赖AI。
谢啇真指出，AI相关投资贡献了美国大部分投资增长和美国GDP增长的一半，AI相关股票也推动了市场的大部分涨幅，亚洲同样因半导体需求上升而受益于AI热潮。然而，当前的繁荣是由资本驱动的——相对宽松的融资条件和超大规模科技公司的强劲现金流支撑了AI模型的开发竞赛，而这场竞赛正不断推高芯片、能源和算力的需求，从而抬升了单位计算成本。
谢啇真提示，如果投资者开始质疑回报是否足以覆盖不断上升的成本，AI竞赛可能放缓；技术过时和监管干预也是潜在风险。更根本的担忧是：AI的生产效率提升可能无法广泛分布——如果AI的收益持续集中在少数公司和少数行业，“这可能意味着高增长，但不平衡的增长”。如果工资和就业未能公平分享增长红利，将引发严重的社会和经济问题。为此，谢啇真呼吁各国加强劳动力适应能力建设、支持弱势群体，并发展更多元化的增长来源。
5
银行路径分化：渣打、汇丰、星展的三种选择
AI采纳的现实数据印证了监管层的担忧。德勤AI研究院2025年全球调查显示，72%的新加坡企业计划在两年内部署代理AI，但目前仅有15%已部署；新加坡人力部2026年第一季度调查（覆盖2，560家私营机构）显示，仅28.7%的公司已开始采纳AI，远低于中国（47.5%）、丹麦（45.1%）和中国香港（41.0%）等领先地区。在已采纳AI的行业中，信息与通信行业以74.1%的采纳率居首，专业服务业为57.5%，金融与保险服务业为56.4%。
Proportion of firms that have adopted AI, by country (%), Source: Adoption of Artificial Intelligence Among Firms, Ministry of Manpower of Singapore, Apr 2026
Proportion of firms that have adopted AI by industry (%) in 2026, Source: Adoption of Artificial Intelligence Among Firms, Ministry of Manpower of Singapore, Apr 2026
在此背景下，亚太地区大型银行的AI转型策略已出现显著分化，三种路径的对比恰好勾勒出效率与治理之间的张力：
渣打银行：激进替代路线。渣打宣布裁减超过7，000个岗位，大规模以AI替代人工，引发监管机构对操作风险和消费者保护的审查。这一策略的核心假设是“AI可以规模化取代人力”，但沙盒结果和MAS新规均表明，在缺乏充分治理框架和人工监督机制的情况下，激进替代将面临监管反弹。
汇丰银行：再培训路线。汇丰选择将受AI影响的员工进行系统性再培训和岗位再配置，避免大规模裁员的同时推进技术升级。这一路径降低了转型期的操作风险和社会成本，但短期效率提升速度较慢。
星展银行：逆势扩招路线。在同行纷纷缩减人力的背景下，星展银行选择继续扩招，将AI定位为“增强”而非“替代”工具。星展的策略逻辑是：AI虽然能提升效率，但在客户信任建立、复杂风险判断和监管沟通等环节，人力仍具有不可替代的比较优势。
三种路径的分化揭示了一个深层命题：银行必须在效率提升与治理合规之间找到可持续的平衡点。单纯追求AI替代人力的策略已不再可取——不仅因为技术层面的安全风险尚未解决，更因为监管框架正朝着“可解释性、可控性和问责机制”的方向收紧。
6
前瞻：治理能力将成为竞争壁垒
沙盒项目同时发布了短期和长期建议。短期层面，机构应从受控测试起步、逐步推进实际部署，对高风险操作实施事前审批、对低风险和可逆操作采用事后审查，并将安全防护分布在平台、系统和用户多个层面。长期层面，应探索多代理协作和开放标准（如Google的Agent2Agent协议），演进数字基础设施（身份认证、授权和权限框架）以适应代理驱动的交互模式，并在代理获取更多用户上下文的趋势下平衡隐私与个性化。
2026年1月，新加坡还发布了全球首个《代理式AI模型治理框架》（Model AI Governance Framework for Agentic AI），专门针对自主AI Agents的风险评估、人类问责、持续监控和透明度提出治理要求。
对于银行业而言，这些信号共同指向一个结论：未来，能够证明其AI系统具备可解释性、可控性和问责机制的金融机构，才可能在监管框架中获得更大的创新空间。AI Agents的部署不是一场速度竞赛，而是一场治理能力的较量——先建立框架者将获得先发优势，而忽视治理的追赶者可能面临监管介入和声誉损失的“双重惩罚”。当72%的企业计划部署代理AI却仅有15%真正落地时，填补“意愿”与“能力”之间的鸿沟，正是治理框架的价值所在。
编译：助理研究员罗星荧
END
往期推荐
·日常实习生招募计划·
·“寻找下一个独角兽”计划·
·MENA出海训练营招募·
前沿研究院新媒体矩阵
中文官网
英文官网
微信公众号
微信视频号
抖音
小红书
哔哩哔哩
扫描识别二维码
添加企业微信｜了解详细信息
★
关于我们
★
北京前沿金融监管科技研究院（Beijing Frontier Institute of Regulation and Supervision Technology，简称FIRST）是由北京市委金融办、市委金融工委、市金融管理局作为业务主管单位的社会服务机构（民办非企业单位）。
研究院依托浙江大学金融科技研究院和国际联合商学院自2014年11月成立以来在学科建设、国际化发展、政产学研创融合发展等方面积累的优势，积极与北京市开展合作，助力北京建设具有全球影响力的金融科技创新中心。研究院致力于开展适合我国国情的金融科技和监管科技前沿创新理论研究，发布“全球金融科技中心城市报告”，通过“科技+金融+应用”的聚集效应，提升“科技+监管”“科技+合规”的双向场景赋能。作为全球金融科技中心网络发起者，研究院通过国际交流与合作，构建监管机构、行业协会、金融企业、科技公司以及科研院所等各主体良性互动的平台,打造监管科技生态圈和金融科技发展生态圈。
