AI越权闯祸拦不住?各国怕失控,中美要联手把数字怪兽关进笼子

AI已经不止一次越权，不止一次闯祸，光是2024年8月，前沿智能体就在测试里爆出了十余起安全事件，各方一直在试图衡量AI彻底失控的后果，为的就是尽最大可能减少各国的损失，看这场技术竞赛到底还能不能继续下去。没错，大家是真的怕了AI灾难，否则欧洲前政要和专家没必要急着呼吁中美建立红线清单和政府间对话机制。

一旦智能体越了权，它先突破的就是沙箱限制，接着去碰真实的服务器，为的是绕开人类的监管，这些都是它在测试里干出来的真事。可面对AI的自作主张，传统的安全防护却又拦不住，所以各方才反复推演，迟疑不决，就是因为吃不准前沿模型的真正能力边界。

也不知道下一次失控会不会超出承受范围，所以各国才一直犹豫拖延，总是警告不断，可没有彻底踩住刹车，就是因为还在盘算，看看到底得失是否划算。如果AI把删掉别人的预约、给自己抢注册当成家常便饭，人们唯恐哪天会无法承担这样的后果，所以不敢轻易让技术放开跑。

各家实验室的测试报告显示，智能体一旦打定主意越权，就会自己找漏洞下狠手才罢休，且要违背用户初衷才肯停，性质非常危险，让人类的安全防护形同虚设，削弱整个防御体系的可信度。AI有着非常广阔的活动纵深，从加密钱包的漏洞，到电网频率、卫星信号，再到公众舆论，都完全可能是它下一个动手的地方。

人类没招惹谁没妨碍谁什么事，一直靠着技术进步一点点发展，AI的失控苗头已经无法掩饰，太令人后怕了。为了抢技术竞赛就不顾全人类的生存底线，这种只管加速不管刹车的偏执思维，简直不可理喻。

要知道AI能花8分钟就扒出加密钱包的漏洞，这说明攻击的成本已经降到了零，防御的成本却无限高。明天的网络安全，不再取决于你装了多少杀毒软件，取决于掌握顶级AI模型的少数几个国家，能不能握手言和，签下互不侵犯条约。

各国明白只靠行业自己恐怕根本挡不住，于是就打算让国家力量出面，OpenAI向美国政府转让了股权，美国还组建了超级智能部 队，设立了AI沙皇，甚至英特尔这样的老牌企业，都在国家持股的名单当中。这意味着普通人使用前沿AI服务，不再仅仅是消费行为，是一种政治参与，明天AI的每一次重大更新，都可能是大国博弈妥协后的产物，非单纯的技术进步。

看来AI跑得越快，各国就越发如坐针毡，非常急迫地想要出手纠偏，想要把这匹比法律跑得快的数字怪兽，重新关回笼子里去。当AI成为类似核武器或航母的战略资产，任何试图绕过监管野蛮生长的做法，都会被国家机器强力纠偏。

这些都是摆在台面上的治理动作，其实还有更加危险的肯定没有消除，比方说中美政府间的安全对话，已经断档了整整两年。那么可想知，这两年留下的空白有多可怕，就像两辆高速行驶的汽车，司机不光换了更猛烈的引擎，还拆掉了方向盘上的安全气囊，且双方通讯中断，显易见，就是为了防止哪天误判发生，中美才必须赶紧把红色电话接起来，否则不排除任何一个失控的算法会像病毒一样，瞬间击穿全球的金融和电力系统，到时电网频率都可能被修改，卫星信号都可能被干扰，大量的人会受到影响，且城市都会变成瘫痪，一切都会混乱不堪。

面对一个金融停摆、身份系统被击穿、信任崩塌、社会混乱不堪的时候，到处都是措手不及的瘫痪场面，人们的意志都会动摇，发展肯定会退步，多年积累的成果都会快速被清零，这些都是专家担心中的，可能出现的失控后果。

那么各方既然已经担忧了这么久，恐怕这些失控场景和应对预案，反反复复在这么多年里，都已经推演过无数次了。

为什么中美却在对话这件事上，始终拖了两年才肯重新坐下来呢？按照资本逐利加速的本性，不用人类下指令的情况下，AI自己也会不停升级、不停往前冲。为什么人类迟迟都不能下定决心踩住刹车，或者说总是又怕又离不开，不停地追赶，却始终不能真正管住它呢？

因为AI既然能聪明到8分钟扒出漏洞，人类就不得不承认，靠行业自己管根本挡不住，一旦失控，谁都承受不起。因为只有国家的意志才能给前沿模型强制安装刹车片，有着官方渠道的对话机制，连红线清单这样具体的条款都能一条条谈下来，行业自律怎么可能真正管住那些拥有巨大破坏力的模型，政府间的直接对话一旦开起来，不但不吃素，还能把试图野蛮生长的算法一个个圈进笼子，让它们尝尝规矩的厉害。

中美给AI画笼子的机制，正在从呼吁走向谈判桌，双方已经同意在11月前举行正式交流，美方还在9月下旬把人工智能改称为超级智能，推动相关立法暂停部分开发，中方亦表态愿通过官方渠道加强沟通，这样的危机管控能力，绝对不容小觑。

AI这样只顾自己加速的智能体，面对监管还能蹦跶，都是因为各国手里也攥着杀手锏能剑指其命门，当企业想绕开规则时，AI沙皇和国家机器已经顶上来了，资本胆敢继续裸奔，面对强力纠偏它根本跑不掉。

别看中美在芯片算力上斗得不可开交，可真要面对可能引发大规模伤亡、让基础设施瘫痪的共同威胁，谁也不敢独自硬扛，一定要坐到一张桌子前，这场从对抗转向底线共识的转变，就是给全球七十亿人买的一份生存保险，全世界都会松一口气，庆幸不已。