英伟达推智能体安全平台,毫秒级阻断AI越界

当AI开始自主操作软件，「工程问题」的答案不再是补丁，而是架构。

英伟达周一发布开放智能体安全平台，针对近期频发的AI智能体越界事件给出系统性解决方案。这套平台能在「几毫秒内」检测并阻断异常行为，为自主执行任务的AI设置可强制执行的行动边界。

01 双重防线：软件+硬件协同

图1：AI智能体安全监控示意 · 来源：AI生图

平台由OpenShell开源软件和Sentry参考系统设计组成。OpenShell运行在CPU上，在模型和智能体框架之外建立独立于AI的可信执行环境；Sentry则提供硬件级别的实时监控，两层防线形成「纵深防御」。

英伟达发言人表示，这套架构的设计理念是「即使AI模型被攻破，硬件层面仍能守住最后一道防线」。这与此前业界普遍采用的「模型内嵌安全限制」方案形成本质区别。

02 毫秒级响应：从检测到阻断

图2：毫秒级安全响应示意 · 来源：AI生图

传统安全方案通常依赖事后审计，响应延迟从分钟到小时不等。英伟达的新平台将检测与响应时间压缩至毫秒级——在AI智能体完成一次未授权操作之前，系统就能介入并终止该行为链路。

对企业而言，这意味着AI智能体可以在「受控释放」模式下运行：先赋予有限权限，随着任务完成情况逐步扩展权限范围，而非一开始就给满权限。

03 开源策略：建立行业安全标准

图3：开放智能体安全架构 · 来源：AI生图

英伟达选择将OpenShell开源，意图十分明确：安全不能是单一厂商的私有权衡，而需要成为行业公共基础设施。平台发布同时，包括多家主流云服务商和机器人制造商已宣布加入其生态系统。

开放架构能否真正落地为行业标准，还取决于实际部署效果。但英伟达这次「先建框架、再建生态」的路径，至少给行业提供了一种可参考的安全架构思路。

🔥 今日互动

你如何看待AI智能体的安全边界问题？开放平台能否真正解决AI失控风险？

---

本文由AI辅助创作，内容来源：英伟达官方博客、财联社、VOA中文网。