ARTICLE · 1238536
安全作为节奏校准器:自主工业AI从试点走向规模化
一、安全不是规模化的减速器，而是自主性的节拍器
围绕自主工业AI的公共讨论中，“安全”常被默认为规模化的对立面：似乎强调安全就意味着放慢部署、增加审批、压缩试点范围。这一直觉在纯数字场景中或许部分成立，但在工业场景中恰恰相反。工业AI直接连接物理系统，错误判断可能影响设备运行、人员安全和关键基础设施，因此负责任部署“不再是附加要求，而是规模化前提”。更准确的判断是：安全能力决定的是自主性可以被释放到哪一级、以多快节奏释放，而不是要不要释放。
2026年的产业现实正在验证这一判断——工业大模型与智能体已在百余家工厂实现规模化价值交付，生产智能体进入核心工序的实时闭环控制；与此同时，制度规范方面，欧盟AI法案对嵌入式高风险系统的合规期限延至2028年8月，中国在2026年5月发布智能体分类分级治理框架、10月发布工业AI安全评测框架，制度侧正在以“分级—评测—细则”的梯次推进方式追赶能力侧。
能力在加速，制度在分层，两者之间的时间差构成了当前自主工业AI最实质的安全命题。我们认为，从试点到规模化的正确节奏，不是先扩张后补安全，而是以安全能力的梯度校准自主性的梯度，让每一次自主权的扩大都建立在上一步可验证的安全证据之上。
二、风险侧的结构性变化——AI在赋能防御之前，先加速了攻击
理解安全节奏的前提，是承认风险的性质已经改变。传统工业控制系统安全长期依赖一种非正式缓冲：工业协议的隐蔽性、专业知识的稀缺性以及补丁周期的缓慢，共同构成了攻击者的“进入门槛”。
但2026年的一系列事件表明，这一缓冲正在被AI工具系统性侵蚀。2026年7月26日至27日，美国明尼苏达州30余家社区水处理系统的运营技术系统遭到协同攻击，CISA（美国网络安全机构，Ameria‘s Cyber Defence Agency）随后确认7月期间超过100个互联网暴露的水务系统受到波及，攻击面从Rockwell扩展至Schneider Electric和Siemens设备。
更关键的是机制判断：CISA明确指出，威胁行为体正在使用AI工具和公开信息生成针对Siemens S7系列PLC的脚本；2026年8月，NSA、CISA、FBI、DOE和EPA五家联邦机构联合发布警告，将这一态势定性为“活跃的AI辅助攻击活动”。这意味着行为体不再需要内化专有工业协议长期积累的冷门知识，AI正在将“综合与迭代”这一攻击链中最耗时的步骤压缩为可自动化的流程。
与此同时，针对LLM生成PLC代码的后门攻击研究已经出现，AI在工业控制回路中的“输入端”本身也成为攻击面。这一变化的安全含义是直接的：如果攻击侧的迭代速度由AI驱动，防御侧和验证侧若仍按年度或项目周期运转，节奏差本身就会转化为风险敞口。安全不再是部署完成后的一道验收，而必须在自主性提升的每一步中同步演化。
三、制度侧的分层推进——不是“空白期”，而是“梯次窗口”
风险侧在加速，制度侧的状态则需要更精确的刻画。将当前阶段简单称为“标准空白期”并不准确。欧盟层面的变化是时间线的重新校准：AI Omnibus（Regulation (EU) 2026/1744）于2026年7月27日生效，将附件一嵌入式高风险AI系统的合规截止推迟至2028年8月2日，同时将机械设备移出附件一，改由新版机械法规（Regulation (EU) 2023/1230）作为统一监管入口，欧委会保留通过授权立法补入高风险AI安全要求的权力。这一安排意味着机械设备面临的不是“AI法案与机械法规并行评估”的双重合规，而是一个以机械法规为主入口、AI安全要求可能后续嵌入的过渡结构；2026至2028是备战窗口，窗口期“不是放宽，而是倒计时”。
中国侧的推进同样呈现梯次特征：2026年5月，国家网信办、国家发展改革委、工信部联合印发《智能体规范应用与创新发展实施意见》，提出按场景及潜在影响开展分类分级治理，对敏感领域和重点行业探索备案、检测、问题产品召回等管理措施；2026年10月15日，《工业和信息化领域人工智能安全评测框架（2026版）》发布，从通用安全、应用安全和业务安全三个维度构建分层评测体系，智能体安全和具身智能安全被单列，工业场景安全贯穿研发设计到运营管理全流程。
这些进展的共同指向是：制度侧并非缺席，而是以“治理框架先行、评测方法跟进、认证细则后续”的节奏展开。对企业的安全含义因此需要重新表述：不是等待“标准落地后再合规”，而是在评测框架已经可见的窗口内，用自身的验证记录和运行证据去对齐即将到来的认证要求；谁能在细则落定之前积累起可迁移的安全档案，谁就拥有节奏主动权。
四、工程化的安全节奏——用“行为围栏”与分级自主把节奏写进架构
在制度细则尚在形成的阶段，产业界已经发展出若干可操作的节奏管理工具，其共同逻辑是将安全从部署后的审查前移为架构中的约束。AVEVA首席技术官（亦以首席技术专家身份发言）Arti Garg在2026年10月的表述具有代表性：在关键决策回路中，AI应当增强人的判断而不是取代人；自动化系统需要设置明确护栏，界定哪些场景可以自动执行、哪些必须由人类主管负责。这一原则在工程层面正在被具体化为可审计的架构机制。
数字孪生联盟（DTC）2026年发布的工业AI智能体宣言列出了治理要求的核心清单：确定性验证、架构上受保护的安全边界、推理与执行的分离、即时人类可干预性、完整可审计性以及安全的持续学习。油气行业的治理实践则从组织侧补充了节奏机制：由一个跨职能AI治理机构统一拥有三项决策权——什么可以从试点毕业进入生产、跨用例统一的风险分级标准、以及谁有权暂停或回滚已部署模型。
工业智能体架构研究进一步展示了运行时的控制方式：权限与范围经认证模块校验，操作约束通过控制层强制执行，已批准的规约持久化并保留版本，支持回滚、时序查询和历史审计。这些工具的安全意义不在于“限制AI”，而在于把自主性变成可分级、可回退、可审计的状态：自主等级不是一次性授予的，而是随着每一级安全证据的积累逐级开放；节奏管理就是在自主性的收益与认证成本之间寻找可承受的推进速率。
五、可验证性的技术底座——“机理+数据”如何为节奏提供证据，而非仅仅提供能力
分级自主与行为围栏解决的是“允许AI做什么”的权限问题，但权限的开放需要可验证的安全证据来支撑。这正是“机理+数据”双驱动路径在安全论证中的核心位置。和利时XWorld的工程实践提供了较具体的说明：将工业机理与AI深度融合，使模型输出受物理约束和工艺边界限定，推理过程具备可追溯性；公开材料报告了“提前7~15天预警”的维护窗口、“非计划停车零次”的安全目标导向以及维护成本降低10~20%的经济效果，但未披露统一口径的停车下降率或预警准确率绝对值。
需要准确理解这一技术路线的安全含义：它并不自动产生“安全”，但它产生的是可审计的证据结构——当模型输出可以被追溯到物理方程、约束条件和适用工况边界时，安全评审才有可能从“相信模型”转向“检验证据”。宁波科技大市场的可信赖工业AI成果亦从因果性、可解释性和信息性三个维度评估模型可信度，针对的正是黑箱模型“难以通过安全审查”的瓶颈。在评测框架已经发布、认证细则尚未定型的阶段，这种证据生产能力比任何单一认证标签都更具节奏意义：它使企业能够在试点阶段就积累可迁移到规模化阶段的安全档案，而不是在细则落地后从零开始补课。
六、组织节奏——治理机制而非技术工具，决定规模化能否“安全地快”
技术护栏和可验证模型是必要条件，但不是充分条件。麦肯锡2026年企业AI调查揭示的转化效率问题，更接近治理节奏问题而非模型能力问题：44%的组织报告已在全企业范围规模化AI，较上一年的38%有所提升，但仅有约6%的组织报告AI对利润的贡献达到5%以上；近九成受访者至少在某一业务职能中定期使用AI，说明短缺不在于使用，而在于把分散的个体使用转化为企业有意依赖和度量的生产方式。
高绩效者的差异不在于工具本身，而在于围绕工具重新设计工作流、在规模化之前管理随部署扩大而来的风险，而不是把治理当作事后补充。这一发现与工业场景的安全节奏直接相关：如果试点的“成功”仅仅意味着模型在受控条件下运行良好，而没有回答“它替代了工作流中的哪个具体步骤、谁对规模化后的行为负责、出问题时能否回滚”这些问题，那么规模化本身就是一次未经校准的暴露。油气行业的治理实践给出了一个可参照的组织答案：由单一跨职能AI治理机构同时拥有“试点毕业权”“风险分级权”和“回滚决策权”，使安全节奏不是由各个试点团队各自为政地“边跑边看”，而是集中于可问责的节点。当治理机制能够以与AI迭代相匹配的频率产出风险判断和回滚决策时，规模化才可能是一种受控的加速，而非一次不可逆的暴露。
总之，自主工业AI从试点到规模化的安全路径可以收敛为一个可操作的节奏原则：以风险分级确定自主等级的上限，以可验证证据决定等级晋升的时点，以治理机制保证节奏的统一与可回退。
2026年的产业现实同时提供了加速的信号和校准的信号：百余家工厂的规模化交付、44%的企业级规模化比例、中国评测框架与分类分级治理的出台，构成了推进的条件；AI辅助攻击的活跃化、约6%的显著利润影响比例、以及嵌入式AI合规窗口的倒计时，构成了节奏约束。
在这两组力量之间，安全不是选择站队，而是选择节奏。那些能够在认证细则落定之前就积累起分级自主的运行证据、把“人在回路”从原则变成可审计的架构约束、并用治理机制把节奏权集中于可问责节点的企业，将最有可能在制度窗口收紧之后仍然保有规模化的自由度。
---
本文为「数字新财报」针对上市公司与持牌金融机构数字合规问题的深度研判。本团队专注服务 A 股 / 港股科创上市公司、持牌金融机构，为企业提供数字合规专项尽调、监管检查应对、合规整改落地、常年合规顾问等高端法律服务，企业可后台留言主体名称与业务类型，预约一对一深度研判咨询。
免责声明：本文仅供一般性信息参考，不构成任何法律、投资或专业建议。文中观点仅代表作者个人或整理时的理解，可能与实际监管口径、司法裁判情况存在偏差，企业具体合规事宜请结合自身主体资质、业务场景开展专项咨询。
---
作者：张烽，万商天勤律师事务所合伙人，
上海金融与法律研究院副院长，
国富量子（00290.HK）创新研究院副院长，
上海市浦东新区科幻协会理事，
上海市浦东管理咨询行业协会理事，
香港RWA全球产业联盟学术委员会副主任，
中国移动通信联合会元宇宙与人工智能产业工作委员会常务委员，
上海区块链技术协会智库专家和科技评价专家，
中国人工智能产业联盟安全治理委员会委员，
中国信通院法律大模型应用评审专家，
国版链数据要素合规专家。
系列专辑：
