一条让人脊背发凉的报告

9 月，Anthropic 发布了一份威胁报告。里面的内容，足以让任何对 AI 抱有乐观态度的人停下来想一想。

报告说，一个极可能与胡塞组织有关联的也门小组，正在用 Claude Code——Anthropic 推出的 AI 编程助手——开发与导弹相关的软件。具体来说，包括制导火箭、射程超过 2000 公里的弹道导弹，以及一个叫做 R2000 的高超声速滑翔载具概念。

这件事的冲击力不在于"AI 被用来做坏事"本身——任何技术都可能被滥用——而在于它发生的方式：不是某个国家的军工实验室，而是一个非国家行为体，用市面上就能买到的 AI 工具，推进了尖端武器的研发。

如果说过去我们讨论 AI 安全，还停留在"超级智能会不会失控"的抽象层面，那么这一次，问题已经具体到了：一个普通的 AI 编码助手，距离帮助制造真正的武器，到底有多远？

背景：AI 编码工具的普及与"两用性"盲区

要理解这件事的分量，得先从 AI 编码工具的现状说起。

过去两年，以 GitHub Copilot、Claude Code、Cursor 为代表的 AI 编程助手已经从"新奇玩具"变成了"开发标配"。它们能写代码、能调 bug、能读整个代码库、甚至能自主完成一整个功能模块的开发。效率提升是实实在在的——有研究称，使用 AI 编程工具后，开发者的生产力提升了 30% 到 50%。

但几乎所有讨论都聚焦在一个方向上：AI 能帮我们多快地做好事。

很少有人认真讨论另一面：AI 能不能同样高效地帮人做坏事？

这就是技术的"两用性"（dual-use）问题——一项技术既可以用于和平目的，也可以用于军事或破坏性目的。核物理是最经典的例子：它既可以发电，也可以造原子弹。生物科技也是：既可以治病，也可以制造生物武器。

AI 编码工具的两用性，过去之所以没被认真对待，大概有两个原因：

第一，人们觉得"写代码"本身是中性的。代码只是工具，关键看人用它来做什么。

第二，人们默认"做坏事的门槛很高"。要开发导弹制导软件，你不仅需要代码能力，还需要物理知识、工程经验、测试环境……这些不是一个 AI 助手就能提供的。

但 Anthropic 的这份报告，正在动摇第二个假设。

如果 AI 助手足够强大，它是不是可以弥补专业知识的缺口？ 一个懂一点编程、但不懂导弹制导的人，能不能通过不断向 AI 提问、迭代，最终拼凑出一个可用的制导系统？

答案似乎正在趋向"可以"——至少，已经有人在尝试了。

技术解析：AI 编码工具是怎么"帮上忙"的

让我们具体拆解一下，Claude Code 这类工具在导弹软件开发中，可能扮演什么样的角色。

1. 知识桥梁：从"不知道"到"知道怎么做"

导弹制导软件涉及控制理论、信号处理、传感器融合等多个专业领域。一个没有相关背景的开发者，可能连从哪里开始都不知道。

但 AI 编码助手可以：

• 解释制导系统的基本原理和架构

• 给出控制算法（如 PID、卡尔曼滤波）的代码实现

• 推荐合适的传感器和数据处理流程

• 帮助理解相关的数学模型和仿真方法

换句话说，AI 把"需要多年学习才能入门"的专业知识，压缩成了几轮对话就能获取的信息。

这本身不是坏事——学生也在用 AI 学习。但问题在于，当获取知识的门槛降到几乎为零时，"谁能获取这些知识"就成了一个安全问题。

2. 代码生成：从"原理"到"可运行的程序"

光有知识还不够，你还得把它变成可运行的代码。这正是 AI 编码工具最擅长的事情。

对于导弹制导这样的软件，AI 可以帮助生成：

• 轨迹计算和预测模块

• 传感器数据处理和融合代码

• 控制系统的仿真和测试框架

• 嵌入式系统的驱动和接口代码

传统上，这些工作需要一个团队、几个月的时间。有了 AI 助手，一个人可能在几周内就能搭出原型。

3. 迭代优化：从"能跑"到"好用"

更关键的是迭代。软件开发从来不是一次写完就完事的，需要不断测试、调试、优化。AI 编码助手可以：

• 分析代码中的潜在问题

• 提出性能优化建议

• 帮助排查 bug

• 根据测试结果快速调整算法

这意味着，即使最初的版本很粗糙，也可以通过快速迭代逐步改进。迭代速度的提升，本质上就是研发速度的提升。

当然，必须说明的是：AI 编码助手能帮到什么程度，是有边界的。 导弹制导涉及真实世界的物理约束——空气动力学、材料强度、传感器精度——这些不是光靠写代码就能解决的。AI 可以生成仿真代码，但真实的飞行测试仍然需要硬件、场地、资源。

但问题就在这里：AI 不需要完成全部工作，它只需要把门槛降低一点点，就足以让原本做不到的人变得"有可能做到"。

启示：我们需要怎样的 AI 安全框架

这件事给我们的启示，远不止"Claude Code 被用来做导弹"这一条新闻。它指向一个更大的问题：在 AI 能力快速提升的时代，我们的安全框架跟得上吗？

启示一：AI 安全不能只靠"模型对齐"

目前主流的 AI 安全思路是"对齐"（alignment）——让模型的行为符合人类的价值观和安全规范。具体到编码工具，就是加入安全护栏：当用户问"怎么造炸弹"时，模型应该拒绝回答。

但实际情况是，护栏很容易被绕过。用户不需要直接问"怎么造导弹"，他可以问"如何实现一个三维空间中的轨迹预测算法"——这是一个完全中性的问题，但答案可以被用来做导弹制导。

这就是两用性问题的核心：技术本身是中性的，意图才是关键。而意图，是藏在用户心里的。

启示二：需要"纵深防御"，而不是单一护栏

既然单一的模型护栏不够，就需要多层防御。比如：

• 模型层：对明显的危险请求进行拦截

• 产品层：对高风险领域的代码生成进行额外审核

• 平台层：对异常使用模式进行监测

• 政策层：对 AI 工具在敏感领域的使用进行规范

Anthropic 在报告中提到，他们已经采取了一些措施，比如识别与武器开发相关的使用模式，并采取相应行动。这说明，AI 公司已经意识到了问题的严重性。

但问题是，这些措施能有多有效？ 在一个"只要换个问法就能绕过护栏"的世界里，防御的成本远高于攻击的成本。

启示三：全球治理的紧迫性

AI 的两用性问题，不是某一家公司、某一个国家能单独解决的。AI 工具可以在全球范围内访问，使用者可能在任何地方。

这意味着，我们需要某种形式的全球治理框架——不是要禁止 AI，而是要确保 AI 的发展方向是安全的、负责任的。

当然，说起来容易做起来难。全球治理从来都是复杂的，涉及国家利益、地缘政治、技术竞争……但如果说核时代教会了我们什么，那就是：当一项技术的破坏力足够大时，合作不是选择，而是必须。

思考题

1. 如果你是一家 AI 公司的安全负责人，你会如何平衡"用户体验"和"安全护栏"？护栏太松会有风险，太严又会影响正常使用。

2. AI 编码工具的两用性，和传统软件工具（比如编译器、操作系统）的两用性有本质区别吗？为什么？

3. 有人说"知识不应该被限制"，也有人说"有些知识太危险了，不能随便传播"。你怎么看？AI 时代，这个问题有什么不同？

总结

Anthropic 这份报告，是一个警钟。

它告诉我们，AI 的两用性问题不再是理论上的担忧，而是已经发生的现实。一个非国家行为体，用市面上的 AI 编码工具，尝试推进导弹技术——这件事本身可能还处于早期阶段，但它指向的方向是清晰的：随着 AI 能力的提升，技术扩散的门槛会越来越低。

这不是要让我们对 AI 感到恐惧。AI 带来的好处是真实的、巨大的，它正在帮助我们解决医疗、能源、气候等领域的重大挑战。

但我们需要清醒地认识到：一项技术越强大，它被滥用的风险也就越大。 我们不能一边享受 AI 带来的便利，一边对它可能带来的风险视而不见。

好消息是，AI 公司已经开始认真对待这个问题。Anthropic 公开发布这份威胁报告，本身就是一个积极信号——它说明，至少有一些公司愿意直面问题，而不是回避。

但这还不够。AI 安全需要的是整个行业的共同努力，需要政策制定者的参与，需要公众的关注和讨论。

AI 的未来，不应该是一场"先发展后治理"的赌博。 它应该是一场在发展中不断校准方向的旅程。而每一次这样的事件，都是一次校准的机会。

问题是：我们准备好了吗？