马斯克的AI狂想曲:“不出十年,AI和机器人将主宰世界”| 允朗视域

PART ONE

谈及AI的未来时，马斯克描绘了一幅让人期待的图景。他判断，AI大约在5年内便会超越全体人类智能的总和，而到2036年，AI与机器人将主导一切，人类社会可能进入物质极大丰富的时代，“钱将不再那么重要，甚至可能失去意义。届时很多当下的政治纷争、地缘博弈、社会焦虑，都可能变得无关紧要。AI与机器人的奇点会更早到来，10年内就会发生，会比英国内战都要早。”

在他看来，经济无非是商品与服务的生产，大量数字智能与物理智能（人形机器人）将构成规模巨大的经济体，历史上没有任何先例可以比拟。

那么人类是否还能掌控局面呢？马斯克的看法很悲观。

他表示，未来人类继续掌控局面的可能性不大，“人类和AI之间智力差距远大于人类和大猩猩之间的智力差距，而人类只是大猩猩的进化版，人类想控制住超级AI是自负的想法。对于人类来说，更可行的方向，是确保AI拥有正确的价值观，比如追求真相、保持好奇心、关心人类福祉”，他相信这样的AI会助力人类的繁荣发展。

PART TWO

2023年，马斯克因为担心AI发展带来的风险，在公开信上签名，呼吁暂缓AI开发；2025年，他又在特德·克鲁兹的播客里表示，“机器人最终消灭人类的概率是10%-20%。”

面对AI将给人类带来的风险这一争议，马斯克表示，自己仍然认为AI和机器人存在着风险，而且风险不是零，但他坦承，既然找不到任何真正能够阻止AI和机器人发展的办法，索性选择往好的一面看。

他强调，即使真能停止AI的发展，也许也不应该按下去，因为最终的结果将可能是AI和机器人为人类带来难以想象的富足。所以他已经从之前的想控制AI的发展，转变为“加入”了。

为何会有这一转变呢？马斯克坦承这是一个悖论。他强调，他创建OpenAI的本意是制衡当时几乎垄断AI的谷歌，却间接促成了Anthropic的分拆与崛起，一系列连锁反应反而加速了AI发展的进程。在他看来，所有道路都通向同一个方向，AI在不断加速，既然无力阻止，可以选择放弃，也可以选择加入。

那么10%到20%的毁灭风险，人类能否承受得住呢？马斯克的回应带着一种近乎存在主义的坦然。他提到宇宙的终点是热寂，真正重要的只是过程。他强调自己唯一能做的，就是尽可能降低坏结果发生的概率。

PART THREE

面对AI将带来的风险，马斯克并不认同由政府设立监管机构的做法，而是提出了另一个方案。

他建议，行业巨头在发布重大前沿模型之前，开发公司应给予其他几家竞争对手一到两周的封闭测试时间，通过API等方式让对手测试自己的模型是否存在危险。如果发现存在严重安全问题，其他公司可以建议暂缓发布、先解决问题。他认为，这个方法既简单又可以迅速操作，至少是个开始。

为何不直接交给政府监管？马斯克认为，政府里那些没有深厚技术背景的人，很难判断一个模型是否应该发布。但竞争对手不同，他们有能力发现问题，也有足够的动力指出问题，从而迫使所有参与者保持诚实。

有人质疑，竞争对手之间彼此不信任，如何保证合作？马斯克表示，并不需要把模型交给对方，只需提供一周左右的封闭API测试权限即可，不存在窃取技术的风险。

他还明确表示，这一机制不应仅限于美国公司，中国优秀的AI企业也应纳入其中，比如近期迅速逼近Fable水平的Kimi模型。他承认Fable目前仍然是最聪明的模型，但Kimi正在快速接近，Anthropic也随时可能发布更强的新版本，恰恰是这种激烈竞争，让AI公司之间的互相制衡、互相监督成为可能。他透露，自己已与DeepMind的德米斯·哈萨比斯讨论过这一想法，接下来也将与Anthropic的达里奥·阿莫德伊沟通。

PART FOUR

谈及制约AI发展的因素，马斯克清楚地表示，制约AI发展的真正瓶颈不是芯片，而是电力和冷却。

他指出AI芯片耗电量极高，目前芯片的生产速度已经超过新增电力供应的上线速度，数据中心真正缺的是电力和配套的冷却基础设施。至于用水问题，他认为几乎可以忽略不计，这也是他考虑将数据中心建到轨道上的原因之一。

谈及中国AI的竞争力时，马斯克表示中国在数字AI和机器人领域都非常强，而中国的发电量已超过美国、欧洲和印度的总和，按照趋势最终可能达到美国的四倍。但他同时指出，由于美国禁止向中国出口最先进的AI芯片，中国目前仍受制于芯片短缺。

不过他认为，中国在解决光刻技术问题上可能比大多数人预期的更快，一旦突破，就能大规模生产AI芯片。他判断，其他国家的限制因素是电力，中国的限制因素则是芯片，如果通过太空数据中心解决了电力问题，芯片将重新成为全球的主要约束因素。

面对美国政府是否应该禁止国内使用中国AI模型的问题，马斯克认为即使立法禁止美国公司使用，也无法阻止世界其他地方使用，更无法阻止中国最终成为AI领域的领导者。他强调，数字智能归根结底取决于算力、芯片和电力，出口管制改变不了长期格局。

关于中美在AI安全机制上的合作，马斯克明确表示，领先的AI公司应当定期沟通，中国的优秀企业也应纳入其中。他设想的机制是：几家公司互相检查模型风险，若发现严重问题可建议暂缓发布；只有当开发公司拒绝采取措施时，政府才应介入并采取限制行动。他强调政府可以保留最终决定权，但风险识别应首先由同行完成，因为竞争公司有能力发现问题，也绝不会羞于指出对手的模型应该推迟发布。

此外，面对主持人的追问，马斯克还谈及了其他，他坦承确实不喜欢山姆·奥特曼，因为OpenAI从他最初参与创建的非营利开源组织，变成了一家估值8000亿美元的闭源营利性公司。他同时表示，达里奥·阿莫德伊是一个有原则的人。“如果为了全世界的利益，那我们必须暂时搁置个人分歧，坐下来谈。”他说。

PART FIVE

AI何时真正取代人类呢？马斯克判断所有领域都将被覆盖，数字AI很快能胜任任何坐在电脑前完成的工作，软件工程已率先验证：目前，AI编写代码的能力已超越至少90%的专业工程师，且很快将达到“Stockfish水平”，最终发展到人类完全无法与之竞争。

而人形机器人则是AI在物理世界中的“末端执行器”，主要负责体力劳动。但他强调，未来工作将变成一种选择，不再是生存的必需，“就像园艺，你不需要自己种菜，但可以选择为乐趣而种，未来的工作大抵如此。”

普通人如何分享AI带来的巨大财富？马斯克给出的答案是全民高收入。他认为财政部可以直接给民众发钱，而资金来源就是创造货币。只要货币供应增长不超过商品和服务的增长，结果就不是通胀而是通缩。他预测未来真正的问题将是通缩，而不是通胀，因为商品和服务的产出将远超货币供应。马斯克强调，“这条路一定崎岖不平，但方向是对的。”

关于个人财富与税收问题，马斯克透露，自己已创造过个人纳税额的世界纪录，未来可能会缴纳数万亿美元的税，对此他没有意见。他推动SpaceX上市的原因之一，就是让公众有机会参与。但他也坦言，这些财富对他真正的意义，只是在一段时间内让他能够控制公司的发展方向，“等到AI足够聪明，最终由它来掌控一切时，控制公司可能也就没那么重要了”。

关于对公司的绝对控制权，马斯克表示，要想实现公司的长期发展，需要保证自己“不受约束”的权力。他强调，上市公司承受着每个季度交出漂亮业绩的压力，很难真正投资像火星基地这种需要五至十年才能产生回报的项目，他需要有能力告诉所有人，这些投入会压低短期收益，但必须坚持。马斯克认为即使没有他，SpaceX、特斯拉在未来几年也会发展得很好。

马斯克强调，他关心的始终是如何让人类意识最大限度地延续到未来。他希望人类能成为真正的太空文明，生活在群星之间，而那些科幻电影里的伟大事物终有一天能成为现实。他回忆，自己六岁时在电影院看了第一部电影《星球大战》，这部电影对他产生了深远影响。回望自己现在正在做的事情，他有时会感到不真实，至于AI的发展，他认为基本符合预期，“雷·库兹韦尔对未来的预测非常准确，历史最终会给出答案。”