OWASP 发布 AI 安全报告,赋能新工具

请点击上方蓝色的【#公众号信安社群 #】微信公众号一键关注！

OWASP 发布了《代理 AI 安全与治理现状 v2.01》报告，这是一份技术蓝图，旨在帮助安全团队争相保护快速扩散的自主 AI 代理在生产环境中的安全。

该报告作为 OWASP 生成式 AI 安全项目代理安全倡议的一部分，将 AI 安全重新定位为一种操作现实，而非理论问题，并以实时事件、CVE 以及围绕代理框架和编码代理的积极开源生态系统为支撑。

在战略层面，OWASP 认为一旦系统获得自主权和工具访问权，人工智能安全和安全不能被视为两个独立学科。

在传统环境中，安全故障（系统自行有害行为）和安全故障（对抗性利用）可能由不同团队承担;代理人工智能在部署层打破了这一界限。

当代理能够自主调用 API、修改代码并触碰生产数据时，同样过度宽容的设计选择既是安全漏洞，也是安全漏洞。

在两种失败模式中进行治理、监控和事件响应，而不是通过零散的风险分类法和升级路径进行引导。

报告介绍了代理系统的详细分类法，按运营角色分类，如企业级、编码型、面向客户型、个人型和基础设施/运维。

它还按实现模式和组合模式对它们进行了分类，包括编排框架、低代码平台、单代理系统、多代理系统、分布链和代理生成架构。

OWASP 敦促组织明确映射代理自治等级，并为高自治部署实施断路器、开关和确定性执行钩子。

报告还以对高速代理项目的生态系统调查为指导基础，强调安全团队应重点监控和咨询跟踪。

Gravitas 拥有约 183,000 颗星数，被认为是一个完全自主的框架/平台，开创了自主代理环路，目前已有超过 430 名贡献者。

在编码代理方面，Claude Code（Anthropic）被描述为半自治编码代理，拥有约 11 万颗星，每天发布约一个版本，已关联 22 个已发布的 CVE，使其成为数据集中增长最快的 CLI。

谷歌的 Gemini CLI 在 90 天内约有 10 万颗星、445 名贡献者和 676 个新问题被打开，显示出开发者采纳和漏洞发现压力的类似加速。

Skyvern（约 18,000 颗恒星，完全自主，PR 合并率为 77%）代表了高风险类别，代理直接桥接到浏览器、云端和 CI/CD 环境。

生态系统还包括半自主编码和编辑器工具，如 Zed（约 79,000 星，Rust 原生，拥有超过 1,000 个跟踪版本和多项安全警示）。

对于防御者来说，OWASP 的理念是将代理人工智能视为一流的安全领域。该生态系统中的库存代理会跟踪高速项目的建议和 CVE，并将部署与 OWASP 代理安全十大及新治理成熟度模型对齐。

随着自主智能体现已触及生产基础设施，安全项目必须从一次性模型评估转向 AI 组件的持续运行监控和供应链来源确认。