人工智能正在加快进入能源、水务、通信等关键基础设施，但英国研究机构开始关注一个更深层的问题：当越来越多关键系统依赖AI之后，一旦算法、供应商或数据链条出现问题，风险会不会被同步放大？

兰德欧洲（RAND Europe）近期公布的一项研究显示，该机构正与英国人工智能安全研究所（AISI）合作，开发面向英国关键国家基础设施。

的AI风险监测框架，希望系统识别AI应用带来的新型脆弱性，并为监管机构和基础设施运营商提供可持续观察指标。

AI已经进入基础设施“日常运行”

按照RAND介绍，AI目前正在能源、水务等领域承担预测性维护、基础设施监测、需求预测和辅助运营决策等任务。

这些应用能够提高效率、可靠性和系统韧性，但随着AI不断深入关键业务流程，基础设施也可能逐渐依赖自动化系统、外部技术供应商、专业人才以及相互连接的数字基础设施。 

问题由此产生：过去判断一套基础设施是否安全，主要看设备是否可靠、网络是否遭到攻击、有没有足够冗余；AI加入之后，还必须考虑模型、数据、供应商和人的能力是否成为新的单点风险。

真正危险的可能是“慢慢形成的脆弱性”

RAND特别关注几类不容易在传统安全指标中体现的问题。

例如，当大量机构依赖少数AI供应商时，可能形成供应商集中风险；长期自动化可能造成工作人员技能弱化；复杂模型还可能降低决策透明度；不同基础设施高度互联后，一个环节的AI故障还可能跨系统传播。 

这些风险与传统网络攻击不同，并不一定突然发生。

它们更可能随着AI应用程度不断增加而逐步积累，直到出现重大中断后才暴露出来。

RAND指出，目前外界对于AI究竟被部署在哪些关键基础设施、运营机构对其依赖有多深，以及是否建立了足够的故障恢复机制，仍缺乏系统性了解。现有证据也分散在不同产业部门，难以形成统一风险图景。 

英国想建立一套“AI脆弱性仪表盘”

为解决这一问题，RAND Europe与英国AISI正在设计跨行业监测框架。

研究将能源和水务作为重点，同时分析食品和电信领域，通过资料研究、产业生态分析、专家访谈、调查和验证研讨会收集证据，并利用情景推演和前瞻分析研究未来风险。 

这套框架重点观察三个维度：

AI暴露程度、AI相关脆弱性的来源，以及组织应对和降低风险措施的成熟度。

也就是说，未来评估一个关键基础设施系统时，不只是问“有没有使用AI”，还要进一步追问：AI控制了哪些关键环节？一旦失效会影响什么？有没有人工接管和恢复能力？

从“AI安全”走向“系统韧性”

这项研究折射出AI治理的一项重要变化。

过去讨论AI安全，更多围绕模型是否产生错误答案、是否存在网络攻击风险；当AI进入电网、水务和通信系统后，问题开始转向更复杂的系统工程层面。

真正需要防范的，不只是某个模型“出错”，而是错误能否被及时发现、是否会跨系统扩散、关键服务能否继续运行以及组织能否快速恢复。(兰德公司)

需要指出的是，该项目目前仍在研究和框架开发阶段，并不是英国已经出台新的强制监管制度。但其方向已经十分明确：随着AI进入关键基础设施，衡量AI价值不能只看效率提高多少，还必须同时回答一个问题——

当AI失灵时，整个系统还能不能安全运行？

参考信息来源：

RAND Europe，AI monitoring and threat modelling in the UK’s critical national infrastructure，2026年。该项目由RAND Europe与英国Artificial Intelligence Security Institute合作开展。 

免责声明：本公众号目前所载内容为本公众号原创、网络转载或根据非密公开性信息资料编辑整理，相关内容仅供参考及学习交流使用。所载内容观点不代表本公众号观点，仅供参考。由于部分文字、图片等来源于互联网，无法核实真实出处，如涉及相关争议，请跟我们联系。我们致力于保护作者知识产权或作品版权，本公众号所载内容的知识产权或作品版权归原作者所有。本公众号拥有对此声明的最终解释权。