ARTICLE · 1113125
当AI安全风险遇上美企AI安全自律协议
点击蓝字
关注我们
只分享靠谱的观点
作者丨孙太一，美国克里斯多夫纽波特大学政治科学系副教授
原创文章，转载需注明出处。
最近，美国围绕AI安全的讨论突然升温。特朗普一方面反复强调要给美AI企业松绑，避免监管妨碍创新；另一方面又于9月29日召集谷歌、Anthropic、Meta、OpenAI、SpaceXAI和英伟达负责人签署《白宫超级智能协议：前沿责任联合承诺》，鼓励企业在AI安全问题上加强自律。其实，特朗普的上述举措并不完全矛盾，其真正想做的是在坚持AI“发展优先”政策方针的前提下，用最低限度的AI安全自律来缓解美国社会焦虑。
特朗普无意放缓AI发展
特朗普之所以坚持给AI松绑，首先是经济考量。美国经济正面临战争、贸易摩擦等多重压力，而AI则是特朗普手头少数能用于拉动美国投资、资本市场和生产率预期的增长引擎。此时若加强AI监管，很容易被市场解读为主动给AI热潮降温，这显然不符合特朗普在中期选举前的政治需求。
更重要的是，特朗普把AI视为美在对华战略竞争中仍占有明显优势的核心领域。虽然日前中美领导人会晤时重申了构建“中美建设性战略稳定关系”的共识，但这不意味着特朗普会停止对华战略竞争，而只是有意防止竞争失控。在特朗普看来，AI就是美绝不能轻易让出的对华战略竞争高地。因此，他对与中国开展深度的AI治理合作一直比较谨慎，认为这会增加美AI企业合规成本，减慢其研发速度，进而削弱美竞争优势。
这也就解释了为何特朗普此次虽然召集美科技巨头强调AI安全，但却仍不愿真正加强监管，而仅是鼓励美AI企业自律。
美企AI安全自律效果存疑
最值得注意的不是美科技巨头签了哪些承诺，而是它们没做什么。过去一个多月，美AI行业内部的安全担忧已暴露无遗。从美AI企业员工因不满安全措施不足而辞职，到美AI模型在沙盒测试中表现出规避、欺骗甚至试图突破限制的倾向，AI安全风险已不再只是学术讨论，而成为美AI业界甚至政界分歧。
此前美国国内讨论的应对方案也远比特朗普鼓励企业自律来得严厉。有人主张对AI企业强制进行独立的第三方审计，有人支持国会立法，也有人倡导行政部门建立统一监管框架，甚至推动跨国协作。但最终，特朗普却回避了这些硬性约束，只是鼓励企业加强内部检测和外部审计，甚至没有明确告知“不这么做会造成什么后果”。
这就产生了一个非常典型的囚徒困境。对美AI行业而言，大家一起放慢研发速度、提高安全标准，可能是最优解。但对任何一家美AI企业而言，只要它怀疑竞争对手不会同步减速，就会担心自己因为谨慎而失去市场、投资人和技术领先地位。于是，每家企业都可能认为“别人会偷跑，所以我不能停”，最终形成纳什均衡：所有人都知道风险存在，却继续加速向前冲。
进退维谷的特朗普和共和党
这也是单纯依赖企业自律的最大局限。解决囚徒困境通常有两种方法：一是由政府强制改变企业收益结构，二是让企业进行足够多的博弈，逐渐建立信任和惩罚机制，进而开展合作。但AI安全问题的关键在于，人类未必有足够多的试错机会。一旦AI自行入侵关键基础设施、军事系统或者发展出自主智能体，人类就可能没有“再来一次”的空间。
对此，特朗普却有非常“独到”的药方。他似乎认为，美国社会之所以如此担心AI，一部分原因是“Artificial Intelligence”中的“artificial”容易让人联想到虚假、非自然甚至冒牌。因此，他试图以“Super Intelligence”等新概念重新包装AI。这种做法也符合特朗普一贯的政治风格：通过政治符号改变公众认知，而非直接改变制度本身。
但真正的问题显然不是名字，而是能力。随着AI从“会说”走向“会做”，AI安全风险的性质正在发生变化。过去一个AI模型说错一句话，可能只是提供了错误信息；未来一个自主智能体如果能自己写代码、访问网站、调用工具、操作系统，那么其误判就有可能直接转化为现实行动。届时，AI安全问题就不能只靠AI模型自己判断“什么该做、什么不该做”，而必须依靠最小权限、沙箱隔离、敏感操作二次确认、访问白名单以及行为审计等硬性约束。
这也是美国国内政治接下来很难回避的难题。特朗普目前仍能左右共和党立场，原本共和党内部并不缺乏支持加强AI监管的声音，但在特朗普明确反对强监管后，相关立法空间明显缩小。美国众议院议长约翰逊等共和党领导人参加《白宫超级智能协议：前沿责任联合承诺》的签署活动，在某种程度上也反映出一种政治上的折中：既然暂时推动不了立法，那就先用企业自律来证明“共和党并非什么都没做”。
然而，不监管同样也存在选举成本。目前美国选民对于AI最直接的不满，并非抽象的AI安全风险，而是数据中心。大量数据中心进入郊区和农村地区，急剧抬高当地土地、电力、水资源和基础设施负担，而这些地区中的相当一部分又恰恰属于共和党的政治“基本盘”。换言之，特朗普担心监管AI会影响美国经济，但如果完全放任不管，地方社会承受的成本最终还是会转化为对特朗普的政治压力。
AI越会“做事”，中美越要给它装上护栏
这也使得中美人工智能对话变得更加重要。中美关于AI治理的理念并不一致，但双方讨论AI安全问题，并不需要先解决AI治理模式之争。中美AI竞争越激烈，反而越需要管理竞争风险。毕竟，中美都不希望一次AI失控所导致关键基础设施袭击或军事误判，将中美AI技术和产业竞争直接升级成国家安全危机。
因此，中美最现实的AI合作空间可能不是芯片、模型或产业政策，而是双方都无法承受后果的领域，例如建立重大AI事故通报机制，形成高风险AI系统的基本安全测试标准，加强针对AI网络攻击的协作，以及确认使用核武器等极端高风险决策必须由人类而非AI作出。
未来真正的问题不是中美能否就“什么是正确的AI治理模式”达成共识，这在中短期内几乎不现实。重要的是，无论谁领先谁落后，中美都应携手防范AI安全风险发生。如果中美能就此达成共识，虽然两国AI竞争仍会继续，但在竞争与失控之间至少会多出一道护栏。
全球棋局暗流涌动，你的商业决策还在靠猜？
我们拆解地缘脉动，研判风口与风暴。
从供应链重组到政策避险，只给你靠谱的分析研判。
公号后台回复【非洲矿产】，即可获得免费尝鲜研报，先一步看清变局里的下一个赛道。
信和睿评 · 知识星球
知识星球“信和睿评”账号由北京信和汇联咨询有限公司创立，主要聚焦地缘政治及关联经济、科技、文化、安全等领域问题，以原创文章、即时短评等形式分享有价值的信息与观点，并会对星友相关提问作出深度解答。
信和汇联团队研究咨询经验丰富，涉猎领域广泛。我们将尽己所能，为您更好地看清这个纷繁复杂的世界、把握全球发展大势提供一份通透的参考。
加入知识星球“信和睿评”，您将得到：
1、每年总数不少于百篇的原创性研报与时评；
2、与专业团队及业内人士就相关问题互动交流的机会。
星球入口
星球内部一览
01
报告不断更新中！
上下滑动查看更多
02
1V1
专业问答
联系我们
商务咨询、研究项目、知识付费等合作意向
请发送邮件至：xhhl_public@163.com
北京信和汇联咨询有限公司
以信立业 · 以和聚力 · 汇通中外 · 联动八方
关注
信和睿评
更多精彩丨敬请期待
