夜雨聆风学习资料网

ARTICLE · 1249310

多家银行拒绝豆包手机助手授权,智能体跨App操作边界待解

多家银行拒绝豆包手机助手授权,智能体跨App操作边界待解
近日,豆包手机助手宣布,其《屏幕自动化操作声明协议》(SAEP,Screen Automation Execution Protocol)30天公示期已结束,将逐步放开第三方应用的屏幕自动化操作权限。

同时,豆包手机助手公布了目前最新拒绝操作应用的清单。清单显示,除多家头部互联网平台应用选择拒绝授权外,工商银行、招商银行、重庆农商行、工银亚洲等多款金融机构App也在拒授权名录之中。

几乎在同一时间,继Meta推出能比价、调度资金的个人智能体Muse后,摩根大通、美国银行、花旗银行等也公开宣布收紧第三方AI智能体对客户账户的访问权限。最近中美金融机构的集体表态,开始表现出它们对智能体相关风险的谨慎态度。

公开资料显示,SAEP是面向GUI Agent(图形用户界面智能代理)操作第三方应用的声明协议。它将应用保护要求转换为机器可解析的策略,由系统在操作前完成Agent身份校验和策略决策,在关键能力路径实施约束,并记录可审计的决策与执行结果。

“GUI Agent相当于引入一层外部代理来操作手机银行,原本由客户本人完成的点击、核验动作,交由智能体执行。这个链路一旦放开,很容易被电信诈骗、洗钱等黑灰产盯上。诈骗分子借助智能体自动读取账户信息、执行转账操作,作案方式比传统屏幕共享诈骗更隐蔽。银行风控的核心原则是守住资金安全,只要外部智能体代理介入金融操作,就会引入不可控变量,出于客户保护与合规问责考量,银行天然会采取审慎防御策略。”某股份行从业人员表示。

简单来讲,SAEP生效后,第三方应用开发者可自主划定智能体的操作边界,明确规定哪些页面和操作允许智能体访问,哪些页面、功能禁止智能体代理操作。

整套规则也不只靠智能体自律,而是由策略管理模块综合智能体的身份、系统安全基线、应用本身定下的权限规则,还有用户本人的授权状态,最终决定能不能执行操作。相关约束限制在系统关键能力入口执行,让智能体难以轻易绕过,同时智能体的每一步行为都可追溯。

尽管该协议设置了Agent身份校验、第三方应用开发者可自主划定智能体的操作边界、操作全程留痕、可审计等多重约束,但多家金融机构还是给出了审慎态度。银行的核心顾虑在于:现有风控模型主要依托设备信息、IP地址、操作习惯等维度进行判断,难以有效识别操作主体究竟是用户本人还是外部智能体。

某家拒绝授权的金融机构内部人士告诉记者,一方面责任边界难以厘清,一旦发生资金损失,各方责任归属模糊,银行基于合规考量倾向防御;另一方面,还会存在敏感信息泄露风险,屏幕自动化涉及录屏和模拟点击,账户信息、验证码等可能被AI获取,存在隐私泄露和黑灰产劫持隐患。

此外,多家金融机构对用户授权机制存疑,SAEP“默认纳入、拒绝才退出”的模式,在金融场景下难以确保用户充分知情与主动授权,因此银行更倾向原生可控的API路径,只读信息可受控开放,转账等高风险操作必须留在银行管控内,而非交由AI自动执行。

博通咨询首席分析师王蓬博在接受记者采访时表示,该事件本质是智能体跨应用落地过程中,技术创新与金融安全底线的一次碰撞。SAEP这类协议本质是协商机制,交由应用方自主决定是否开放智能体自动化权限。银行选择拒绝,不只是出于技术风险考量,更是金融机构基于合规、资金安全和权责划分做出的防御性决策。

“出于守住金融安全底线、履行客户资金保护义务,选择拒绝授权是理性风控行为。”王蓬博认为,金融场景聚集大量资金与敏感信息,屏幕自动化依托模拟点击实现,存在界面识别错误、被黑灰产劫持、隐私泄露等隐患。一旦引发交易纠纷,资金损失风险将直接传导至用户与银行;现阶段银行缺少成熟机制去界定外部智能体操作带来的责任边界。

某股份行科技部门中层向记者介绍了该行对智能体的应用边界划分原则。“标准化、机械化、重复性较高,规则明确、可复核、低风险的流程场景比较适合使用智能体;涉及到资金、账户、客户核心权益、高风险定性决策的敏感场景,必须限制或避免使用智能体进行独立操作。”

他指出,目前银行普遍拒绝智能体独立介入的场景包括三大类:

一是直接触发资金划拨、转账支付、账户开立或销户、账户限额调整、授信审批、风险分类认定、可疑交易定性上报等会直接改变客户账户状态、产生资金流动或者形成刚性风险结论的环节;

二是需要基于复杂情景、多方证据做主观定性判断的风控、合规、反洗钱决策场景;

三是客户高敏感信息授权、异议申诉裁定、纠纷责任认定等涉及法律责任、消费者权益的事项。

“即使是在一些需要智能体参与辅助分析或材料整理的流程中,目前银行业的通行做法也是‘人机隔离、人做终审’。”他指出,智能体仅负责信息归集、材料初筛、规则检索、草稿生成、数据比对等前置辅助工作,所有敏感动作、最终决策必须由银行在岗人员核验、确认、授权后方可生效,核心目的就是规避大模型幻觉、上下文理解偏差、边界条件识别失效带来的资金风险、合规风险与声誉风险。

多家银行业内人士认为,长远来看,用户在AI辅助下管理资产、查询账单的需求是否成立,仍有待观察,此类需求的大范围普及尚需较长时间。“退一步讲,即便这一需求成立,用户借助AI查询账单、管理资产,也不应走屏幕模拟点击的路径,核心方向仍是开放银行API。”华东地区一家城商行金融科技部负责人告诉记者。

王蓬博表示,坚持发展与安全并不矛盾,关键在于多方共治、在发展中规范。银行应做好权限分级管理,AI厂商应避免采用屏幕抓取模式,监管应厘清规则与责任边界。最终目标是在安全可控的前提下,满足用户的便利需求。

另据21世纪经济报道,2007年图灵奖得主约瑟夫·斯发基斯也认为:客户授权机制、可审计追溯、幻觉兜底、损失赔付这些框架未补齐前,银行不会也不被允许放开高敏感的自主操作权限。

相关学习资料