将AI从安全盲区转化为发展蓝图

译自：Transform AI from a security blind spot into a roadmap^[1]

作者：John Sapp

我过去常开玩笑说，每一项新技术的到来都像是一场CISO的三道菜晚宴：头盘是炒作，主菜是希望，而甜点则是残酷的现实。甜点总是苦乐参半的。而现在，有了AI，企业甚至还没来得及吃完头盘，残酷的现实就已经降临了。

几十年来，我看着技术经历着同样的循环：围绕其能改变什么的炒作，希望新工具能解决风险，以及将其投入生产的残酷现实。我也见证了代码生成从30多年前的计算机辅助软件工程（CASE）工具演变为如今的Copilot和自主智能体。这个概念并不新鲜。然而，我们赋予这些系统的速度、规模和权限却是前所未有的。

这个概念并不新鲜。然而，我们赋予这些系统的速度、规模和权限却是前所未有的。

员工和开发人员已经在日常使用AI了。问题在于，这种采用是通过企业能够看见并治理的系统进行的，还是仍然在成为一个不断扩大的安全盲区。在当今AI优先的世界里，盲目的信任并不等于透明。CISO需要构建一条兼具可见性、可信输入、受控执行和明确问责制的合规路径。

AI已进入“残酷现实”阶段

AI的普及速度超过了许多企业的治理能力。77%的技术高管表示，AI的采用速度已经超过了他们当前的治理能力（IBM^[2]）。另外，70%的高管表示，各业务团队部署技术的速度超过了IT部门的追踪能力，只有11%的高管对明年预期的AI智能体部署规模完全做好了准备。

与此同时，影子AI并不总是完全处于隐蔽状态。企业往往鼓励员工进行实验，而安全团队却仍然缺乏对所涉及工具、模型、数据和工作流的可见性。MIT^[3]发现，超过90%的公司中的员工经常在工作中使用个人AI工具，而只有40%的公司拥有官方的LLM订阅。

随着AI从辅助走向行动，这种差距变得更加重要。聊天机器人总结文档所带来的风险，与访问凭据、执行代码或修改生产系统的智能体所带来的风险截然不同。正如安全领域常说的那样，问题不在于是否会出事，而在于何时会出事。关键不在于企业是否会采用AI，而在于这种采用是否发生在受控系统之内。

阻止AI并不能消除风险

在我参与的一个AI治理委员会中，我亲眼目睹了这种紧张关系。业务领导不希望安全部门拖慢变革和创新的步伐。这种担忧是合理的。CISO的工作不是取消这次公路旅行，而是担任副驾驶——了解业务部门想去哪里，预判前方的危险，并帮助规划出最安全的路线。

CISO的工作不是取消这次公路旅行。而是担任副驾驶……

如果员工简单地转向个人账户、未获批准的工具或安全团队无法监控的工作流，广泛的限制可能会产生虚假的安全感。将影子AI视为一种信号，表明获批的路径可能无法满足业务需求。我们的目标是让安全路径比其他替代方案更简单、更有用。CISO可以通过提供能够实现预防和网络韧性的功能来做到这一点。这必须是基本要求，而且是不可或缺的。

将盲区转化为蓝图

安全领导者需要围绕AI在当下的实际使用方式来构建蓝图，而不仅仅是一份描述其应该如何使用的政策。以下是为安全领导者提供的一些实用建议：

• • 盘点用例，而不仅是工具。 映射AI可以访问哪些数据、可以采取哪些行动以及可以影响哪些系统。随着自主性和潜在影响的增加，实施更严格的控制。
• • 建立可信输入。 AI生成的软件继承了它所选择的软件包、库、容器镜像和依赖项的风险。为开发人员和智能体提供对经过批准的、最简化的且持续维护的组件的访问权限。
• • 在验证之前将执行视为不可信。 隔离智能体活动、应用最小权限原则、限制凭据和网络访问，并在智能体外部强制执行边界。
• • 衡量获批路径是否有效。 跟踪可见性、获批与未获批的使用情况、例外情况，以及员工是否继续绕过既定控制措施。随着AI从辅助转向执行和自主，治理也应随之演进。

安全必须成为赋能者

当今的CISO必须将技术专长、业务理解、风险管理和AI治理融为一体，形成一项战略。KPMG发现^[4]，近四分之三的领导者将风险、安全和隐私视为主要的AI担忧，但只有24%的人将其嵌入到战略和技术中。另外，58%的人表示企业级能力至关重要，但只有12%的人表示他们有效地交付了这些能力。

安全领导者应该明确哪些地方可以进行实验，并提供获批的环境、可信的组件以及可复用的护栏。这需要安全、工程、平台和业务团队之间的紧密协作。我们的目标是将安全从后期的审批关卡转变为实现负责任采用的架构和设计。你不会等到建筑师盖好房子之后才决定是否需要门窗。你今天也可以将同样的思维应用于安全领域。

不要等待炒尘埃落定

采用AI并不是要等待治理程序变得完美。能够最好地应对这一转变的企业，不会是那些实验最少的企业，而是那些在可见、可信和可执行的边界内为员工提供实验空间的企业。我们的目标是防止每一个新的AI工具、依赖项或自主行动演变成无法管理的企业的风险。

引用链接

[1] Transform AI from a security blind spot into a roadmap: https://thenewstack.io/shadow-ai-ciso-governance/[2] IBM: https://newsroom.ibm.com/2026-06-08-new-ibm-study-finds-cios-and-ctos-face-growing-ai-control-gap-as-enterprise-deployment-scales?lnk=hpln2id&utm[3] MIT: https://www.media.mit.edu/groups/nanda/overview/[4] KPMG发现: https://kpmg.com/xx/en/media/press-releases/2026/06/ai-trust-and-governance-emerge-as-competitive-edge.html?utm_source=chatgpt.com