福建CIO网：随着企业大力推进 AI/Agent 落地，业务创新的速度令人振奋。本文指出了一个全球企业都在面临的共性挑战——AI 时代的‘权责真空’。技术部门非常乐意为业务冲锋陷阵搭建最稳固的基础设施，但真正能让 AI 释放业务价值并守住底线的，是业务端与技术端的‘权责对齐’。期待在接下来10月份的“企业高管 AI战略与AI治理闭门会”中，我们能一起探讨如何构建更健康的跨部门 AI 治理防线，让创新跑得既快又稳。欢迎回复 admin@fjCIO.org 或咨询 18959162918 

导语：52%的IT领导者表示，智能体出错时背锅的是CIO——哪怕CIO根本没选过供应商、看不见智能体的行动、甚至没有审计轨迹。当责任远超权力，治理鸿沟在智能体迈出第一步之前就已埋下。CIO成了AI的最后一道防线，但这份工作，很多人根本没申请过。

AI失败不可避免，CIO背锅也不可避免？由于需要为每一起AI故障负责，大多数CIO都面临着组织层面的责任缺口，这需要更好的AI治理以及关于风险的艰难高管决策。

图源：PeopleImages / Shutterstock

即便CIO对AI智能体的行动没有可见性，或者根本没有选择供应商的决定权，一旦出了问题，背锅的很可能还是他们。

根据商业通信提供商8×8委托开展的一项最新调查，IT领导者已经在组织内部看到了这种情况——52%的受访者表示智能体出错时CIO会被追责。仅6%的受访者表示，当智能体失控时，法务或合规负责人会承担责任。

8×8的IT与业务系统副总裁Morgan Watts（摩根·沃茨）表示，CIO如今要为组织近年来仓促部署AI工具的一切混乱局面买单。

他说：“回想一年半前，当时企业都在仓促落地AI技术，现在这种匆忙推进已经开始产生不良后果。仓促部署时并没有建立治理框架，也缺少必要的可见性控制来保障实际结果符合预期。”

Watts（沃茨）指出，在某些情况下，AI工具是由董事会、其他高管或其他业务部门批准的，还有一些是员工作为影子IT私自采用的。根据8×8的报告，在另一些情况下，供应商将智能体植入了承载关键业务应用的平台中，进而造成了治理真空。

8×8的首席执行官Samuel Wilson（塞缪尔·威尔逊）在一份声明中表示：“CIO现在成了AI的最后一道防线，而在很多组织中，这并不是他们入职时所要承担的岗位职责。CIO没有选择供应商，也并不总能拿到审计记录。但当AI智能体出错时，事故报告上写的却是他们的名字。”

Wilson（威尔逊）补充道，这种让CIO背锅的模式不可持续，也无法构建健全的AI治理。

Watts（沃茨）表示，既然CIO被迫承担责任，他们就需要成为AI治理的倡导者。他补充说：“这件事你推不掉。”

Watts（沃茨）尚未看到IT领导者因AI错误而丢掉工作的证据。然而，IT分析机构IDC预测，未来四年内，由于对AI智能体的管控和治理不足，将有多达200家大型企业面临诉讼、监管罚款，或者CIO被解雇的情况。

与此同时，AI平台提供商Dataiku今年2月发布的一项调查显示，71%的IT领导者认为他们必须在今年年中之前证明AI的价值，否则将面临预算削减或职业发展危机。不过，对预算或IT领导者职位的影响似乎尚未发生。

尽管如此，对AI——尤其是智能体——的狂热，以及问责压力，仍在不断给IT领导者加码。

一、CIO希望完善治理

CIO正在努力弥补现有的治理鸿沟，但他们不应孤军奋战。

Watts（沃茨）表示：“存在一种务实的方式，可以将这项责任落实到整个组织层面。”他建议，虽然CIO应牵头推进，但组织必须把完善管控、开展AI培训和落地应用的责任分摊到各个层面。

Boris Kolev（鲍里斯·科列夫）是聚焦青少年的非营利组织JA Worldwide的全球技术主管，他认同AI治理应成为IT领导者的首要任务——尤其是当故障智能体修改数据库记录、发送消息或触发交易时，问题会迅速升级为重大事故。

但Kolev（科列夫）认为，如果CIO并不掌控这项技术，就不应为智能体错误承担责任。

“当责任超出权限范围时，就是严重的治理问题，”他解释道，“如果业务团队选择了某个智能体或AI平台，其行为由供应商把控，却要求CIO为所有故障负责，那么早在该智能体启动第一次操作前，这个组织就已经制造了责任缺口。”

他补充道，CIO有责任直面现存的责任缺口。“如果我们无法核查智能体的活动或是终止其运行，我们就应当在部署前明确披露这一限制，并要求管理层就该风险做出决策，”他表示。

Gil Elbaz（吉尔·埃尔巴兹）是网络安全公司Onyx Security的联合创始人兼首席AI官，他认同CIO有责任修复治理问题。

“CIO不应为每一次智能体错误背锅，但他们有责任搭建有效的治理机制与自动化管控体系，同时需要CISO（首席信息安全官）从安全视角配合落地，”他说道，“责任应当落在负责管控智能体的人员与组织身上，而非智能体本身。”

二、机器运行速度带来的挑战

Elbaz（埃尔巴兹）补充道，智能体之所以带来治理挑战，是因为它们运行的速度是人类监督无法跟上的。他表示，IT领导者需要部署自动化治理工具，从而掌握当前有哪些智能体正在运行、它们可以访问哪些资源、以及它们的行为是否符合用户意图与组织要求。

“和人类员工不同，AI智能体无法为自己的错误负责，也无法承受有实际意义的惩罚——即便它们的行为给组织造成了严重伤害，”他补充道，“这就催生了新的责任缺口，仅靠人工监督无法在机器的运行速度与规模下解决这一问题。”

💡 技术名词速览（Tips）

问责鸿沟（Accountability Gap）：指AI智能体出错时，责任归属与实际权力之间的不对等状态。当业务团队选择智能体、供应商控制其行为，而CIO却被期望为每一次失败负责时，问责鸿沟在智能体迈出第一步之前就已存在。核心矛盾是：责任远超权力。

治理真空（Governance Vacuum）：因缺乏明确的治理框架和管控措施而形成的空白状态。常见成因包括：AI工具由董事会或业务部门绕过IT批准、供应商将智能体内置到关键任务平台中、员工作为影子IT自行采纳AI工具等。

最后一道防线（Last Line of Defense）：形容CIO在AI治理中的尴尬处境——当所有上游环节都缺乏管控时，CIO成了兜底的人。但这份"工作"很多CIO根本没申请过，因为他们既没选过供应商，也不总能拿到审计轨迹。

自动化治理工具（Automated Governance Tools）：能够以机器速度监控AI智能体运行状态的技术工具。核心功能包括：识别哪些智能体在运行、监控其访问权限、验证其行动是否符合用户意图和组织要求。仅靠人类监督无法应对机器速度和规模下的治理挑战。

影子IT（Shadow IT）：员工在IT部门不知情或未批准的情况下自行采纳和使用技术工具的行为。在AI时代，影子IT的风险被放大——因为AI智能体不仅能访问数据，还能执行操作，其潜在危害远超传统影子IT。

#IT领导力 #人工智能   #业务与IT对齐

作者：Grant Gross（格兰特·格罗斯）

Grant Gross（格兰特·格罗斯）是CIO的资深撰稿人，是一名长期的科技记者。他曾担任华盛顿记者，后来担任IDG新闻服务的高级编辑。在他职业生涯的早期，他曾担任Linux.com的总编辑和科技职业网站Techies.com的新闻编辑。在遥远的过去，他曾在明尼苏达州和达科他州的报纸担任记者和编辑。

睿观：如何破局 AI 问责陷阱？高管层协同构建智能体治理体系

导读：随着 AI Agent（人工智能智能体）在企业内的广泛部署，效率提升与成本优化的红利背后，隐藏着巨大的治理真空。当智能体“暴走”时，谁该为此买单？打破“CIO 兜底”的怪圈，需要跨部门协作与系统性的治理工程。

在狂热的 AI 军备竞赛中，企业往往只关注技术的落地速度，却忽视了背后的风险管理。调查显示，当企业内部的 AI 系统出现严重失误时，超过半数的情况是由首席信息官（CIO）来承担责任，而真正主导业务决策的法务或合规部门往往隐身其后。这种责任错位不仅无法建立起经得起审查的治理模型，更会在组织内部埋下巨大的合规隐患。

面对瞬息万变的智能体生态，企业需要摒弃单纯的技术视角，转而采用体系化的评估与治理逻辑。通过聚焦效率提升、客户体验、成本控制、自助赋能以及跨职能协同这五大核心要素，高管团队（C-Suite）必须重新划定权责边界，构建起一套可落地、可追溯的自动化治理架构。

一、责任剥离：打破“权责不对等”的治理真空

在许多企业中，AI 工具的引入往往呈现出碎片化和无序化的特征。业务部门为了追求短期的敏捷性，可能会绕过 IT 部门直接采购 SaaS 化的智能体服务；或者员工为了提高个人效率，私自将含有机密数据的业务流接入未经审批的平台，从而形成了庞大的 Shadow IT（影子 IT）。

“权责不对等”是企业治理的致命伤。如果业务线选择了技术平台并定义了业务目标，其问责的闭环就必须落在业务端。CIO 的核心使命是确保技术底座的安全、稳定与可观测，而不是为失控的业务决策买单。

二、三驾马车：CIO、CDO 与 CFO 的跨职能协同

应对机器速度下的治理挑战，需要打破部门墙，在高管层面形成坚不可摧的跨职能协同机制。

• CIO（首席信息官）—— 基础设施与自动化护栏的构建者：CIO 应当聚焦于将治理规则转化为硬性代码。借鉴成熟的治理工程理念，从基础设施层到应用交付层，部署自动化的监控与管控工具。确保每一个运行中的智能体都被纳入可视化的资产清单，明确其访问权限，并在其行为偏离预设安全边界时，具备一键熔断的底层能力。

• CDO（首席数据官）—— 数据资产与意图对齐的守门人：智能体的决策质量高度依赖于底层数据源的纯净度。CDO 需要确保投喂给 AI 的数据符合隐私与合规标准，同时建立严格的意图对齐（Intent Alignment）机制，确保模型输出的结果与企业价值观和业务目标高度一致。

• CFO（首席财务官）—— 风险对冲与价值回归的掌舵者：CFO 不应仅从技术采购的视角看待 AI，而应将其视为一项带有不确定性的资产组合。在项目立项之初，就需将潜在的合规罚款、声誉受损等风险成本纳入财务模型，确保追求创新的同时守住底线风险。

在AI机器以毫秒级速度执行决策的时代，依赖传统的人工审批流程已然失效。企业必须将治理要求内嵌于 IT 基础设施之中，构建起一套“默认即合规”的自动化防御体系，让技术创新在安全的护栏内全速奔跑。