中国信通院郭雪:AI供应链安全是软件供应链安全在人工智能时代的延伸与升级

现阶段人工智能供应链暂无统一定义，但从国内外相关标准、指导文件中可以看出人工智能供应链安全核心概念与软件供应链安全概念无明显区别，从人工智能应用研发生命周期或行为维度，重点关注人工智能涉及的相关角色、供应活动等。因此，AI供应链安全概念应包含以下元素：

• 对象层面：人工智能应用生成阶段涉及的训练数据、模型、软件、工具、基础设施、硬件以及第三方服务的安全；

• 流程层面：人工智能应用采购、训练、微调、交付、部署、运维、下线全生命周期安全。

AI供应链安全重点关注系统侧和开发侧安全，具体包括以下几部分：

• 外部引入的第三方框架、插件、工具、服务的安全；

• 人工智能应用生成阶段涉及的数据、模型、软件、基础设施的安全；

• 人工智能应用开发全生命周期安全。

AI供应链存在广泛攻击面，漏洞攻击会影响训练数据、模型及部署平台的安全性。传统软件漏洞主要聚焦代码缺陷、依赖项等问题，AI供应链风险会进一步延伸至第三方预训练模型、数据集、参数、训练链路等层面。

同时，AI系统中大部分的代码来自外部供应链，包括开源组件、第三方库和预训练模型。攻击者可通过污染数据、篡改依赖或植入后门等方式，沿供应链渗透至核心系统，威胁贯穿数据、分发、训练、推理及应用全链路。

AI系统由于其“黑箱”特质及特性漏洞（如对抗样本、幻觉）等，颠覆传统“代码审计 + 特征匹配”的安全检测范式，安全检测难度显著高于传统软件。此外，传统安全工具缺乏对 AI 代理行为的上下文理解能力，无法区分其正常任务目标与被操控后的恶意行为，更难以匹配其机器级别的执行速度与行为规模，因此存在一定技术局限性。

软件供应链与 AI 供应链安全均聚焦第三方依赖、组件篡改与全链路安全风险，但 AI 供应链新增数据与模型投毒、黑盒后门、第三方功能插件投毒等原生风险，导致AI供应链攻击面更广、依赖关系更复杂、检测难度更高、责任边界更模糊。

中国信息通信研究院联合腾讯科技（深圳）有限公司、重庆长安汽车股份有限公司、中国移动通信集团有限公司、南方电网数字电网研究院股份有限公司、天翼安全科技有限公司、平安科技（深圳）有限公司共同启动了《人工智能时代下开源智能体安全研究报告》暨开源智能体安全倡议。

同时，中国信通院将持续布局人工智能、大模型、智能体相关领域研究，现已构建覆盖智能体供应链安全、AI安全、AI开发平台安全的标准框架，同时逐步依托标准开展标准性符合测试工作。

下一步，中国信通院将开展《人工智能时代下的开源智能体安全研究报告》编制工作（拟定于5-6月），欢迎对报告编制感兴趣的企业和专家与我们联系！