AI 安全的拐点来了:当 AI 开始帮人类找漏洞

过去一年，谈到 AI 安全，很多人的第一反应还是：AI 会不会失控？AI 会不会泄露数据？AI 会不会生成危险内容？AI 会不会被越狱、被诱导、被滥用？

这些问题当然重要，但它们更多是在讨论一件事：我们如何防住 AI。

但最近，一个新的变化正在出现。

AI 不再只是被防范的对象，它也开始成为防御工具。尤其在网络安全领域，AI 正在进入一个极其关键、也极其敏感的战场：帮助人类发现软件漏洞。

这件事的代表性信号，就是 Anthropic 的 Project Glasswing。

Project Glasswing 的目标，是让经过筛选的合作伙伴使用 Claude Mythos Preview，去发现和修复关键软件中的漏洞。根据公开报道，Anthropic 正在将 Mythos 的合作范围扩大到更多国家和组织，涉及医疗、能源、通信、硬件等关键领域，并且合作伙伴已经借助该项目识别出大量严重软件缺陷。

这意味着，AI 安全正在进入一个新阶段。

过去，我们担心 AI 被攻击；现在，我们开始用 AI 找攻击面。

这不是普通的代码辅助，也不是简单的自动化扫描，而是 AI 正在接近网络安全行业最关键的能力之一：漏洞发现。

一、为什么“AI 找漏洞”值得关注？

普通人可能会觉得，找漏洞是一个很技术的问题，离自己很远。但如果换一个角度看，它其实关乎整个数字社会的安全。

今天几乎所有行业都运行在软件之上。银行系统、医院系统、通信网络、云服务、支付平台、供应链系统、企业数据库、开源组件，背后都是一层又一层代码。

只要软件存在，就可能存在漏洞。

过去，发现高价值漏洞是一件非常依赖专家的工作。真正厉害的安全研究员，需要理解操作系统、浏览器、内存管理、编译器、代码调用链、边界条件和攻击路径。他们不是简单“看代码找错误”，而是在复杂系统里寻找那些隐藏很深、普通开发者很难注意到的风险点。

所以，安全行业一直有一个现实问题：专家太少，代码太多。

而 AI 的出现，正在改变这个结构。

AI 可以持续阅读大量代码，分析历史补丁，寻找异常逻辑，提出攻击路径假设，辅助安全人员做代码审计和漏洞验证。它不一定能完全替代人类专家，但它可以把专家的工作效率大幅放大。

这就是 Project Glasswing 让行业关注的原因。

如果 AI 能帮助防御者更早发现关键漏洞，那么很多原本可能被攻击者利用的问题，就可以在造成真实损失之前被修复。

二、AI 安全的讨论，正在从“防 AI”变成“用 AI 防世界”

过去我们讲 AI 安全，大多围绕模型本身展开。

比如模型会不会输出危险内容，会不会帮助攻击者写恶意代码，会不会泄露用户隐私，会不会在企业内部误用数据。这些都属于“如何约束 AI”的问题。

但 Project Glasswing 代表的是另一条路线：用 AI 去保护真实软件世界。

这件事的意义在于，AI 不再只是一个需要监管的风险源，也开始变成安全行业的新工具。

它可以帮助安全团队检查软件缺陷，发现潜在攻击路径，辅助漏洞修复，缩短从发现问题到修补问题的时间。

这听起来像是好消息。但它真正复杂的地方在于：能帮助防御者找漏洞的 AI，同样也可能帮助攻击者找漏洞。

这就是 AI 安全的拐点。

过去，网络安全主要是人与人的攻防。黑客找漏洞，安全团队修漏洞；攻击者写脚本，防御者建规则；红队模拟攻击，蓝队做防守。

未来，这个格局会变成：人类专家和 AI 一起防御，攻击者也可能借助 AI 发起攻击。

安全行业的核心问题，会从“有没有漏洞”，变成“谁先找到漏洞”。

防御者先找到，是补丁。

攻击者先找到，是攻击。

三、当 AI 有了“手和脚”，风险不只是漏洞

但 AI 安全的变化，并不只发生在“找漏洞”这件事上。

更深层的变化是：AI 正在从“能回答”走向“能执行”。

过去的大模型，更多像一个聊天助手。它可能说错话，可能产生幻觉，可能给出错误建议，但风险大多停留在内容层面。

可一旦 AI 开始调用工具、访问数据、执行流程、修改系统，它就不再只是“说错话”的问题，而是可能“做错事”。

这也是智能体安全区别于传统 AI 安全的地方。

一个只会聊天的 AI，最多误导用户；一个拥有权限、工具和工作流能力的 AI，一旦被诱导、污染或误判，就可能造成数据泄露、越权操作，甚至业务中断。

更麻烦的是，这类风险不一定表现为传统意义上的“系统被黑”。

很多时候，AI 使用的是正常身份、正常工具、正常流程，却执行出了违背业务意图的结果。

这可以理解为：合法动作的非法后果。

比如，一个知识库 AI 被诱导读取不该返回的内部文件；一个办公自动化 AI 被邮件中的隐藏指令影响，错误修改审批内容；一个安全运营 AI 误判正常流量，自动封禁关键业务系统。

这些情况不一定是黑客攻破了系统，却同样会造成真实损害。

这说明，AI 安全的边界正在从“防系统漏洞”，扩展到“治理 AI 行为”。

四、企业安全边界必须重建

很多企业可能会觉得，Project Glasswing 离自己很远。它好像是 Anthropic、大型科技公司、政府机构和关键基础设施企业之间的事情。

但其实不是。

因为今天每一家企业，本质上都运行在软件之上。你可能不是互联网公司，但你有官网、小程序、CRM、ERP、OA、财务系统、客户数据库、供应链系统、云服务账号。

只要你的业务运行在数字系统上，软件安全就和你有关。

AI 找漏洞的能力增强后，企业至少要重新理解三件事。

第一，安全不能再只是 IT 部门的事。

过去很多企业把安全当成技术部门的后台工作，只有出问题时才重视。但在 AI 加速漏洞发现的时代，安全会直接影响业务连续性、客户信任和品牌信誉。

第二，企业不能只关注“用 AI 提效”，也要关注“用 AI 防风险”。

过去很多企业采购 AI，主要问：能不能写文章？能不能做报表？能不能提高客服效率？未来还要多问一句：AI 能不能帮我发现风险、检查代码、识别异常、保护数据？

AI 不只是生产力工具，也会变成企业安全能力的一部分。

第三，企业不能只管模型，还要管 AI 的执行链路。

一个 AI 系统代表谁执行、能调用什么工具、能读取什么数据、会记住什么信息、最终做了什么动作，都会成为新的安全边界。

过去企业安全边界主要围绕网络、终端、账号和系统。现在，这个边界必须扩展到 AI 的身份、工具、数据、记忆、行为和运行环境。

五、Skill 和工具调用，会成为新的供应链风险

如果 AI 只是回答问题，风险还相对可控。但当 AI 开始调用外部工具、接入企业系统、运行 Skill，安全问题就会复杂得多。

Skill 看起来像一个功能插件，本质上却是 AI 执行链路的一部分。

一个写邮件的 Skill，可能连接企业邮箱；一个查数据的 Skill，可能连接数据库；一个审批 Skill，可能连接 OA；一个客服 Skill，可能连接客户信息系统。

一旦 Skill 存在硬编码密钥、隐蔽外联、恶意投毒、返回值污染或权限滥用，就可能让 AI 在“正常调用”中完成错误动作。

这也是为什么 AI 时代的安全会越来越像供应链安全。

企业不能只问“这个 AI 模型安全吗”，还要问：

它调用了哪些工具？
这些工具来自哪里？
有没有经过检测？
权限是否过大？
运行过程是否可审计？
出现错误能不能回滚？

未来，AI 的风险不只来自模型本身，也来自模型所连接的一切。

六、AI 会放大安全工程师，但不会替他们承担责任

AI 能帮人类找漏洞，并不代表安全工程师不重要了。

相反，越强大的安全 AI，越需要专业的人来判断、验证和负责。

因为 AI 找到的可能只是线索，不一定都是真实漏洞；AI 提出的修复方案，也可能影响系统稳定性；AI 帮助发现的漏洞，更需要按照负责任披露流程处理，不能为了展示能力就提前公开细节。

未来安全工程师的价值，不只是“我能不能手动找到漏洞”，而是“我能不能判断 AI 找到的漏洞是否真实、是否严重、如何修复、如何披露、如何防止被滥用”。

AI 会放大安全工程师，但不会替安全工程师承担责任。

这就像 AI 代码工具不会让优秀工程师消失，而是让工程师从写每一行代码，转向设计架构、审查质量和控制风险。

安全行业也是一样。

未来最有价值的安全团队，不是简单拥有 AI 工具的团队，而是能把 AI、专家、流程、披露机制和责任体系结合起来的团队。

结尾：真正的拐点，是 AI 开始站在攻防两边

AI 安全的拐点，不是 AI 终于足够安全了，而是 AI 已经开始进入安全攻防本身。

过去，AI 是被检查的对象。

现在，AI 也开始成为检查者。

过去，我们讨论的是如何防止 AI 带来风险。

现在，我们还要讨论如何用 AI 降低整个数字世界的风险。

这当然是一件好事。因为今天的软件世界太复杂，人类需要更强的工具来发现问题、修补问题、保护关键系统。

但它也提醒我们：任何强大的防御能力，都可能变成攻击能力。AI 找漏洞越强，越需要被负责任地使用。

未来网络安全的关键，不是 AI 能不能找漏洞，而是谁先找到漏洞，以及找到之后如何处理。

防御者先找到，是修复。

攻击者先找到，是灾难。

而当 AI 从“会说话”走向“会执行”，企业更要明白：安全的目标不是让 AI 停下来，而是让 AI 在可信边界内行动。

没有边界的自治，是风险；有边界的自治，才是生产力。

Project Glasswing 值得关注，不只是因为它展示了一个更强的 AI 模型，而是因为它释放了一个信号：AI 正在从办公桌走向网络安全前线，从生产力工具变成数字世界的防御力量。

未来的黑客和安全工程师，都会拥有 AI。

真正决定安全格局的，不只是模型有多强，而是谁能更早发现风险，谁能更安全地使用 AI，谁能为 AI 的执行能力建立边界。

携手启程，共赴智能未来

杭州立腾科技有限公司期待与您合作，共绘数智蓝图！

电话：13388615155
邮箱：cxl@hzliteng.com
官网：http://www.hzliteng.com/
地址：浙江省杭州市西湖区文二路207号耀江文欣大厦609室

长按识别二维码

添加微信

--往期推荐--

FDE 爆火：AI 时代最稀缺的岗位，不是会写代码，而是能把 AI 落到业务里

AI Agent 时代，个人经验正在变成一种新商品

从AI 助手到 AI 团队：Multi-Agent 正在改写智能体的未来

AI竞争进入2.0:模型正在“电力化”,架构工程才是真正的护城河

这个开源项目，可能正在重写 Agent 的未来：Hermes Agent 深度拆解