AI 智能体崛起,为“软件供应链”带来全新的安全需求

编辑：林风语

图片：林智源

排版：谢知微

新闻发布入口: https://news.zhenrobot.com

随着企业逐步开放更多内部系统权限给 AI 代理（AI agents），一条全新的“软件供应链”正在快速成形：从技能（skills）、插件（plugins）、MCP 服务器，到各种让 AI 代理能够访问互联网的扩展和附加组件（add-ons），都在成为关键基础设施的一部分。

AI 安全初创公司 AIR 认为，这条围绕 AI 代理工具链构建的“供应链”很快会像传统软件供应链一样，成为企业安全的新焦点。为此，AIR 自隐身模式中走出，宣布已在两轮种子融资中共筹集 5000 万美元（50 百万美元），用于打造一套专门面向 AI 代理的软件供应链监测与防护平台。

传统安全模型往往假设攻击者会直接入侵系统或模型本身。但 AIR 指出，随着 AI 代理在企业中的使用日益自主化，它们已经不仅仅是在单一系统内执行任务，而是会跨数据库、跨企业内部系统，甚至直接连接互联网完成复杂工作流。

AIR 联合创始人 Saban 提醒，真正的风险正在发生迁移——攻击者不一定需要入侵 AI 模型或代理本身，只要能“毒化”（poison）AI 代理所依赖的内容与工具，就有可能影响其决策和行为。换句话说，AI 代理的输入源、插件依赖和外部组件，正在成为新的攻击面。

在这一背景下，AI 代理所使用的技能、插件、MCP 服务器和各类扩展组件，就构成了一条对业务运行越来越关键、却相对缺乏监控的“AI 软件供应链”。

针对这一新兴风险，AIR 正在构建一套以“白名单”为核心的软件供应链安全体系。

Saban 介绍，AIR 平台会对互联网上公开提供的 AI 技能、插件、MCP 服务器和各类 add-ons 进行持续评估，重点监测以下变化：

• 组件自身代码或配置是否发生异常变更
• 组件依赖的第三方包是否被替换或篡改
• 组件开发者账号是否出现被控制或异常行为

即便是曾经通过审核、被列入白名单的组件，一旦其依赖包更新、行为模式改变，或者开发者账号出现风险，也可能重新变得不安全。AIR 的平台会对这些动态进行监控，并据此更新企业可用组件的白名单。

Saban 表示，基于当前的筛查规则与评估体系，AIR 平台目前会过滤掉大约 27% 在线发现的技能与 add-ons，认为它们不适合直接被企业 AI 代理使用。

AIR 称，公司目前已拥有超过 20 家客户，其中约四分之一为大型企业用户。 从行业分布看，最强烈的需求集中在监管要求较高的领域，尤其是：

• 金融服务业
• 医药与制药企业

这些行业在数据合规、风控审查和系统稳定性方面具有更高要求，对 AI 代理行为的可控性、安全性和可审计性尤为敏感。因此，在引入 AI 代理技术的同时，也更倾向于优先部署针对 AI 软件供应链的安全方案。

围绕 AI 安全的创业赛道，同样正在吸引大量风险投资机构进入。

Public information shows:

• 2024 年 8 月，Zenity 完成 1.25 亿美元（125 百万美元）的 C 轮融资
• 2023 年，Noma 完成 1 亿美元（100 百万美元）的 B 轮融资

与 AIR 一样，这些公司都在不同层面切入“AI+安全”赛道，反映出资本市场对 AI 基础设施和安全能力建设的高度关注。随着 AI 代理在企业生产系统中的角色不断提升，围绕它们的访问控制、行为审计和供应链安全，有望成为下一阶段的基础设施级市场。

本文相关信息由长期关注金融与科技交叉领域的记者 Ram 整理与报道。 Ram 曾在路透社（Reuters）与 Acuris Global 负责北美与欧洲的并购（M&A）、股权、监管动态及债券市场等议题，也撰写过旅游、文娱和图书相关内容。在快速变化的 AI 基础设施与资本流向中，他主要从：

• 资本与估值视角
• 行业结构与参与者格局
• 监管环境与合规压力

对 AI 安全相关创业公司与技术路线进行梳理和解读。

在 AI 代理走向更高自主性、更深系统集成的当下，围绕其工具链与供应链的安全建设，正在成为全球科技与产业界共同关注的新议题，也为中国以及全球的 AI 从业者提供了新的观察窗口和实践方向。

📚 【精品资源】添加关注『刘智勇频道微信公众号』，即可免费获取世界模型综述论文《World Model for Robot Learning》。

[刘智勇频道出品] [AI代理安全] [企业级AI安全解决方案] [AI供应链安全与合规] [第三方组件与代码篡改检测] [真机智能(zhenrobot.com)] [真机科学(zhensci.com)] [真机资本(zhencap.com)] [真机skill(zhenskill.com)] [真机team(zhenteam.com)] [真机宇宙(zhenmeta.com)] [真机租赁(zhenrent.com)] [真机合约(zhencontract.com)] [真机记忆(zhenmem.com)] [真机保险(zhenins.com)] [真机学院(zhencollege.com)] [真机商机(zhenmate.com)] [真机招聘(zhenhire.com)] [真机法律(zhenlegal.com)] [真机视频(zhenvideo.com)] [真机量化(zhenquant.hk)] [真机内参] [真机尽调(zhendue.com)] [真机文学] [真机影评] [真机短剧] [刘智勇频道] [机器姬永生人] [机器洞察网] [AI之星网] [风投高科网] [猛虎财经网] [硅基科学网] [人形纪元网] [Cognition OS] [Embodied OS] [黄金广告位]

-End-

-感谢您的耐心阅读-