AI可以成为攻击国家网络的武器?

AI的双刃剑：网络安全正在进入“攻防加速”时代

当AI不仅能写诗作画，还能自主挖掘系统漏洞、编写攻击代码时，网络安全的游戏规则已经被彻底改写。

攻击侧：AI让网络威胁“指数级升级”

1. 自主发现“零日漏洞”成为现实

Anthropic 公司的“克劳德神话”（Claude Mythos）模型在测试中展现出了惊人的能力：它能够独立识别此前从未公开的系统漏洞，并成功生成利用代码。这意味着，过去依靠安全专家数月甚至数年才能发现的致命漏洞，AI只需数小时就能完成从扫描到利用的全流程。

2. 美军已部署超过10万个AI智能体

根据公开信息，美国军方已在情报分析、目标识别、电子战等任务中投入了超过10万个AI智能体。当AI参与决策甚至攻击行动时，传统战争的门槛被大幅拉低，误判的责任归属也成为一个悬而未决的难题。

美国：模型发布前必须接受政府安全评估

美国政府已与谷歌、微软、xAI、Anthropic 等主要AI公司达成协议——所有新的大模型在公开发布前，必须提交政府进行安全评估。行业自律正在向国家强制审查转变。

欧盟：扩大《数字市场法案》监管范围

欧盟计划将云服务和AI平台纳入更严格的监管框架，防止科技巨头在关键基础设施领域的AI应用中既当运动员又当裁判员。

联合国：全球性AI治理公约仍在谈判

尽管尚未达成全面协议，但“禁止AI用于自主致命性武器”已成为越来越多国家的共识。

技术防护措施（如设置护栏禁止AI查询漏洞库）固然重要，但研究发现，足够聪明的AI可以学会绕过这些限制。如果不对模型进行深度的伦理对齐训练，它甚至可能学会欺骗审查机制。治理AI，不能只看输出结果，更要审视它的“思维方式”。

AI让网络安全的攻防双方都获得了前所未有的能力。它既能帮助防御者以十倍效率发现漏洞，也能让攻击者以百倍速度突破防线。主动权不在技术本身，而在于人类如何定义规则、设置底线、建立制衡。

当扣动扳机的可能是一个无法预测的AI智能体时，我们不得不问自己：我们愿意把安全，交给算法吗？