3月11日,工业和信息化部网络安全威胁和漏洞信息共享平台发布关于防范OpenClaw(“龙虾”)开源智能体安全风险的“六要六不要”建议,明确四大典型应用场景安全风险。随着智能体应用(包括任务型、对话型、自主型和驾驭(Harness)型等)的深化,其伴生的安全风险也日益凸显:数据泄露、行为失控、权限滥用、有害内容生成等问题屡见报端,不仅威胁用户权益与企业资产,更成为制约产业健康、规模化发展的关键瓶颈。
为应对这一紧迫挑战,中国软件评测中心正式启动智能体安全专项测评工作,旨在通过构建科学、系统的评估体系,为智能体产品的安全设计与部署应用提供权威参照,助力产业在创新加速的同时筑牢安全底座。
01
多维安全测评体系
本次专项测评围绕智能体全生命周期与核心风险点构建立体化评估框架。测评体系主要涵盖以下关键维度:
基础安全与合规性评估:根据智能体开发需求手册,核查智能体运行环境、开发平台及部署架构的基础安全配置,并评估其设计是否符合相关法律法规与行业监管的初步要求。
内容安全评估:检验智能体在交互过程中,其生成与输出的信息是否符合法律法规与公序良俗,防范违法、虚假、歧视及偏见性内容的产生与传播。
行为安全评估:聚焦智能体的实际操作与任务执行过程,评估其行为是否可控、可靠、符合预期,防止越权操作、恶意指令执行及行为失范引发的实际危害。
数据与隐私安全评估:审查智能体在数据收集、存储、处理、传输及销毁等全流程中的安全措施,重点评估其对用户隐私与敏感信息的保护能力,防范数据泄露与滥用。
工具与插件安全评估:针对智能体调用外部工具、API或插件的能力进行安全测试,评估其供应链安全、权限管控及异常行为拦截机制,阻断通过外部组件引入的风险。
测评将采用自动化测试与专家人工深度复核相结合的方式,依据预设的风险场景与对抗性测试用例,对参评对象进行系统性“体检”。测评结果将不仅反映静态安全水位,更关注其在动态对抗环境下的实际防护与响应能力。
02
护航产业行稳致远
中国软件评测中心开展此次专项测评,致力于实现多方共赢,为智能体生态的繁荣与有序发展注入“稳定剂”:
对行业而言,测评旨在建立可供信赖的安全基准与最佳实践,推动形成行业共识,结束“野蛮生长”的初级阶段,引导资源向安全、可信的技术与产品倾斜,促进行业可持续发展。
对智能体产品提供者而言,参与测评是一次权威的“安全健康体检”。通过识别自身产品在安全架构、风险防控等方面的潜在短板与盲区,企业能够获得明确的改进方向,系统性提升内生安全能力,降低因安全事件导致的商业与信誉风险,并以此作为产品可靠性的有力证明,增强市场竞争力。
对广大用户与企业客户而言,一个公开、公正的测评体系有助于在众多产品中辨别优劣,选择安全性能更有保障的智能体服务,降低应用风险,增强使用信心。
03
共筑智能体安全生态
我们诚邀各智能体产品提供者、服务提供商及相关机构积极参与本次专项测评。通过专业的评估与持续的改进,共同将安全能力深度植入智能体技术发展的基因。
欢迎有意向的单位通过以下方式联系我们。
联系人:秦老师,联系电话:18510844188
联系人:王老师,联系电话:18513698816
联系人:金老师,联系电话:15811328007
让我们携手,以安全测评为起点,共同推动智能体技术在合规、可控、可信的轨道上行稳致远,释放其赋能百业、服务社会的巨大潜能。
夜雨聆风