夜雨聆风商业与技术洞察公司Gartner指出，中国企业在迅速整合生成式人工智能（生成式AI）的过程中意识到，生成式AI既是强大的防御机制，也构成了显著的新攻击面。Gartner针对AI使用治理、AI应用安全保护和AI驱动型威胁的防御，为中国的首席信息官（CIO）及其网络安全团队提供了四大前瞻性洞察（见图1）。
Gartner分析师们将于5月26-27日在上海举行的Gartner2026大中华区高管交流大会上进一步详细解读这四大预测。
到2028年，中国网络安全项目实现的AI价值，80%将来自任务自动化和能力扩张，而非裁减人员。
Gartner高级研究总监陈延全表示：“中国目前面临超过200万名专业人员的网络安全劳动力缺口，同比增长19%。这种短缺使得裁减人员在战略上成为不可能，因为AI主要被用于填补现有职位空缺，而非取代现有员工。除了通用的安全技能短缺，缺乏精通AI的人才，这是全球AI实施中第二常见的障碍。”
基于此，Gartner提出以下四点建议：
重点采购为常规运营任务（如自动匹配或任务分解）提供嵌入式自动化功能的安全产品和服务供应商，优先考虑开箱即用的运营就绪性，以确保在不招聘新专家的情况下立即获得生产力提升。
将投资叙事从裁员转向能力扩张，为董事会重塑AI雄心，例如，量化AI在现有运营模式下可自动处理的未解决安全告警和合规积压工作的数量。
与法律和合规团队共同设计可审计的安全自动化工作流，以验证安全智能体是否遵守关键基础设施的人机协作协议，确保AI驱动的响应（如隔离生产服务器、重置特权凭证或修改防火墙规则）可满足个人责任和透明度授权要求。
更新安全运营中心工作流，利用智能体编排增强现有的安全编排、自动化及响应（SOAR）和自动化框架，使用对话式AI界面加快跨工具分流的速度，并简化涉及多个安全平台的手动数据切换。
到2028年，超过80%的中国企业将经历员工对生成式AI的无监管使用，使AI特定的数据泄露控制成为首席信息安全官（CISO）关注的前三大优先事项。
中国的生成式AI用户渗透率在六个月内翻了一番，从2024年中的2.3亿人增长到2025年中的5.15亿人。中国员工采用生成式AI的速度远超企业建立管理政策的速度。大量员工使用公共生成式AI工具处理日常任务，如撰写工作总结、编写代码和组织数据，导致大量企业敏感信息（客户数据、内部代码、战略文档）被上传到第三方生成式AI平台。
Gartner高级研究总监陈延全表示：“随着网络安全领导者认识到公共生成式AI使用标准化对于风险控制的重要性，中国企业正在从无监管采用转向安全启用。企业门户机构将优先选择提供受控访问门户的安全平台，允许员工使用经过批准的AI模型，同时在传输中剥离敏感企业数据。”
基于此，Gartner提出以下五点建议：
强制执行零容忍规则，禁止将客户数据、源代码和核心业务秘密等非公开企业数据提交给任何未经授权的公共生成式AI模型和服务，制定并执行明确的生成式AI合理使用政策（AUP）。
开展模拟特定影子AI风险（如意外源代码泄露）的针对性培训，将员工提升为第一道防线，以对抗普遍存在的效率优先心态。跟踪培训完成率，通过定期评估衡量员工行为的变化。
审计网络出口点，以识别哪些业务部门是未经授权生成式AI平台的最大用户，并量化流向主要公共AI域和API的流量，从而发现当前生成式AI使用的盲点。
实施现代化技术防御，从基于静态规则或文件的数据丢失防护，升级为通过上下文感知的数据丢失防护、安全服务边缘，或能够解析并拦截动态生成式AI提示词中敏感内容的新兴专用AI使用控制技术。在实施规划中考虑资源需求、供应商选择和集成复杂性。
提供经过审查、企业授权且在数据本地化、零训练政策和安全审计方面具有合同保证的生成式AI工具，将业务需求引导至安全环境。
到2029年，50%针对中国广大员工的社会工程攻击将由深度伪造驱动，导致传统的意识培训失效。
移动社交和办公应用是中国职场沟通的核心，也是深度伪造欺骗的集中攻击面。大多数传统的安全意识培训仍侧重于“不要点击未知链接”和“检查发件人邮件地址”，缺乏识别合成媒体迹象以及验证可疑音视频指令真实性的实际指导。当员工亲眼看到或亲耳听到“领导"的指令时，已有的培训知识很可能会立刻失效。
Gartner高级研究总监陈延全表示：“中国的统一通信与协作平台将被迫集成或提供先进的反深度伪造功能。针对深度伪造威胁的新一代安全意识培训和红队服务将会出现。使用深度伪造技术也将成为企业红队演练的新选项。”
基于此，Gartner提出以下四点建议：
对企业机构主要协作平台进行审计，确认其是否具备活体检测或实时伪造告警等原生反深度伪造能力，强化针对合成媒体的前线防御。在原生平台能力缺失的情况下，使用终端安全工具或采取严格的政策作为补充，限制在未经验证的通话期间执行高权限操作。
开展专门针对虚假通话中所用欺骗手段的场景化培训，对员工进行压力测试，了解其对产业化社会工程的警惕性。
执行严格的“先验证，后信任”政策（即不将音视频生物识别作为唯一的验证方式），重构财务和数据访问工作流。实施强制性的多因素身份验证步骤，确保合成媒体无法绕过程序障碍，并记录程序更新，以备用于监管审计。
将AI生成的语音和视频冒充纳入年度红队演练，检验跨媒体验证流程的有效性。针对财务和IT支持等高风险部门开展模拟深度伪造攻击，在压力下暴露实际流程漏洞。利用这些发现来完善跨媒体验证流程并填补流程缺口。
到2029年，超过30%部署了物理AI的中国企业，将经历导致物理中断的重大安全事件。
AI暴露在网络物理系统中构成了巨大风险，因为感知、决策或执行中的任何不准确都可能导致运营失败、物理伤害或关键基础设施损坏。在中国，国家主导的在基础设施（如能源电网、交通网络和公共事业）中部署AI的积极举措，显著放大了物理AI风险的后果。
Gartner高级研究总监赵宇表示：“日益增长的物理AI安全问题将触发中国监管机构的强力监管响应。企业必须密切关注中国国家互联网信息办公室（网信办）、工业和信息化部（工信部）以及国家市场监督管理总局等机构的监管指导。”
基于此，Gartner提出以下五点建议：
建立基于零信任架构的网络物理安全框架。
分阶段部署物理AI，从高频低风险任务（如库存清点、非侵入式监控）开始，从而在现实世界中验证网络安全控制。
对所有安全关键型操作强制执行人机协作协议，并提供明确的干预流程、上报路径和控制措施。
对部署在物理AI系统中的模型和软件执行安全测试。
对用于监控和分析AI对Al通信及多代理协作的工具进行研究。持续监控、检测并隔离偏离正常行为的单个物理AI系统或整个集群。
获取更多Gartner 2026大中华区高管交流大会相关资讯，请点击左下角阅读原文。
更 多 资 讯 敬 请 访 问 Gartner 中 文 官 网!
www.gartner.com/cn
长按识别二维码
