夜雨聆风学习资料网

ARTICLE · 1015031

埃隆·马斯克谈AI风险与同行评审、星舰、Terafab及SpaceX/Tesla合并

埃隆·马斯克谈AI风险与同行评审、星舰、Terafab及SpaceX/Tesla合并

为防止失联,欢迎关注备用号,每日也会更新内容

参与者:嘉宾 SpaceX's Gwynne Shotwell、Elon Musk。正文使用“SpaceX's、Elon”作为短标签。

发言人1:你们前往火星的最新时间表是怎样的?

SpaceX's:前往火星?我认为我们会在十年内将人类送上火星表面。

发言人2:欢迎SpaceX总裁兼首席运营官格温⁠·⁠肖特韦尔(Gwynne Shotwell)。她对SpaceX的成功起到了举足轻重、极为关键的作用。她是名副其实的定海神针,就像能稳住龙卷风的粘合剂。

SpaceX's:快速试错,快速迭代学习,让设计更具鲁棒性。如果我们未能在月球上建立定居点,我会感到非常失望。

旁白:这家航天与人工智能巨头通过其750亿美元的首次公开募股(IPO)正式创造了历史,首日亮相市值即达到1.7万亿美元。

SpaceX's:就计算而言,部署在轨道上是效率最高的地方。要主动管理风险,而不是回避风险。

发言人2:让我们掌声欢迎格温⁠·⁠肖特韦尔!嗨,非常感谢你能来。请坐,就坐那儿,沙发上。欢迎你!

发言人1:谢谢你,感谢你莅临现场。

SpaceX's:很高兴来到这里。见到你们真好,见到你们很高兴。

发言人1:我们非常感激你能抽空过来。SpaceX最近进展如何?

SpaceX's:挺清闲的,什么事都没发生,风平浪静。我有大把的闲暇时间。

发言人2:顺便说一句,格温,埃隆的时间比你还充裕呢。

发言人1:是啊。你在SpaceX待了这么久,是除埃隆之外工龄最长的员工吗?

SpaceX's:除埃隆之外确实是最长的。事实上,就在上周某个时候,9月9日正是我入职24周年的纪念日。

发言人1:哇,太不可思议了。格温,你能带我们回到最初接到电话的那一天吗?当时你得知有这么一回事。你当时的决策心路历程是怎样的?你又是如何被说服去押注、投身这项事业的?请为我们详细讲讲。

SpaceX's:其实真正出资托底的是埃隆,我只是去打工。不过整件事确实有点不可思议。当时我正要去吃午饭,我的一位最要好的同事兼好友正准备跳槽去给埃隆工作,我请他吃了一顿告别午餐。送他回公司的时候,他说:“进来见见埃隆吧。”我说:“算了吧,他那么忙,没必要打扰。”但我们最后还是进去了。我见到了埃隆,并对他说:“我认为你真的需要一个全职的人来主管业务拓展部门。你现在用的是个兼职外包人员,这看起来可不够专业。”他若有所思地看着我,抓了抓头。我们闲聊了几句就道别了。等我回到自己的办公室,就接到了埃隆的助理玛丽⁠·⁠贝丝(Mary Beth)打来的电话。她说:“埃隆想让你申请新设立的业务拓展副总裁一职,你能来面试吗?”我当时想:“现在?不行,我手头还有工作,现在走不开。明天吗?行,那就明天。”后来我花了大约四周时间才意识到,自己之前犹豫不决简直太蠢了。

发言人1:但当时那家公司的规模有多大?你觉得它缺乏哪些必要的东西?因为那时它在很大程度上还只是个纯研发项目。

SpaceX's:确实非常偏研发,但埃隆投入了真金白银,他期望得到回报,他需要现金流和客户。而我当时本来就在航天领域做这方面的商务工作,事实证明我做得很出色。当时的实际情况是,我是第七个签署聘用合同的员工。我提前两周提了离职,然后休了一周假去翻修家里的浴室,因为我知道一旦开始为埃隆工作,我就再也不会有时间去弄这些了。三周后我正式入职,成了公司的第11号员工。我们立刻全情投入,大约12个月后,我们就成功卖出了一枚火箭。

发言人2:可当时根本还没有火箭实体,连一枚火箭的影子都还没有。

SpaceX's:是的,当时根本还没有造出火箭。

发言人1:那样的销售周期是怎样的?你是如何说服客户承担这种风险,并付给定金以启动火箭制造周期的?

SpaceX's:当时的时机非常有利。顺便提一句,SpaceX本来根本不应该有生存空间的。如果现有的发射服务商足够优秀,新入局者就绝不可能取得突破,因为老牌巨头根深蒂固。我们本来绝不可能成功。但事实证明,他们的客户服务非常差,火箭造价又极其昂贵,这是其一;其二是“9·11”事件。当时军方极度渴望能有人提供快速响应的发射能力。在“9·11”事件发生后的大约四个小时里,虽然我们花了一段时间才实现,但我们最终完全兑现了自己的承诺。

发言人1:所以这真的可以说是从一场悲剧中孕育出的历史机遇。

SpaceX's:在某种程度上确实如此。但这并非专属于SpaceX的机遇,而是当时整个航天工业的现状所致。

发言人1:随后就是人尽皆知的创业早期篇章,你们几乎走到了破产边缘,全指望最后一次发射必须成功。到了那个节点,你的角色也发生了重大转变。你能跟我们讲讲当时公司内部的动态是如何将你推上总裁那个岗位的吗?

SpaceX's:当时非常具有初创团队的特点,我最初就是个跑销售的。但有了销售业务,你就必须做好客户履约,还需要财务职能。虽然我们当时规模很小⁠—⁠—⁠我记得当时一家大型国防承包商曾讥讽我们不过是“大象脚趾头上的一只苍蝇”,我想“你脚趾上可不该长苍蝇”⁠—⁠—⁠但你依然需要设立政府事务职能来保护自己。始终处于防御自卫模式。因此我承担的管理职责越来越多。到了2008年,当我们即将拿到当时最大的一笔合同时⁠—⁠—⁠也就是商业货物补给(CRS)合同,埃隆在特斯拉忙得不可开交,在SpaceX也焦头烂额。当时千头万绪,他急需一位能独当一面的搭档。我想他当时可能在我和另一位接管了更多技术范围的同事之间权衡。在我们前往与NASA进行这项16亿美元合同最终谈判的路上,就在飞机跑道上,他突然问我:“你想当总裁吗?”我当时的反应是:“我想吗?”在最初的那一瞬间,我的念头是:“我热爱现在的本职工作,热爱身边的团队伙伴。”但转念一想:“好吧,我又在犯傻了。是的,我想接下这份工作。”

发言人1:快进到我们今天所处的位置。这家公司的业务范围和雄心壮志发生了急剧扩张。在过去这一年里,它似乎既是一家航天公司,也是一家人工智能公司。埃隆可能也提过这点,无论那是泄露的消息还是公开的表态,从营收规模来看也是如此。

SpaceX's:按营收算也确实如此。

发言人1:现在这两项截然不同的业务同处一个屋檐下,需要协同合作、优势互补,你该如何管理这种双重业务文化?

SpaceX's:在团队方面,xAI确实经历了不少人员流动,SpaceX的工程师和管理者主动进驻,填补了该领域的重大空缺。我们大家都对学习AI感到非常兴奋。我自己是个AI新手,我们内部有一大批员工都对此热情高涨。正如埃隆一贯所做的那样,他把愿景描绘得非常清晰:如果你不使用AI、不在AI领域处于领先地位,你就会面临被时代淘汰的巨大风险。而SpaceX绝不能被边缘化淘汰,这对公司至关重要,我们正在从事的事业也意义重大。

发言人3:你是否预计下一代火箭将越来越多地由这些系统来提供信息、构建和设计?

SpaceX's:百分之百由AI完成。

发言人3:完全由这些系统来驱动。

SpaceX's:是的。

发言人3:那你如何管理团队呢?因为你手下有一群名副其实的顶尖火箭科学家,他们在某种程度上为此受了一辈子的专业训练。现在你必须帮他们适应全新的AI工具链,并让他们接受这种转变。比如,不知道你有没有注意到,当OpenAI解出了那个著名的方程时,许多数学家都感到非常愤怒⁠—⁠—

SpaceX's:噢,纳维-斯托克斯方程(Navier-Stokes),我读到过相关报道。

发言人3:虽然关于他们是否是通过暴力穷举求解仍有争议,但大概有20位菲尔兹奖得主基本上都在抗议:“你们正在毁掉这门纯粹的手艺。”

SpaceX's:仿佛要收走他们的奖牌一样。

发言人3:没错,都要被拿走了。对他们来说那就是毕生职业生涯的追求,重点不在于制造出实体成果,而在于拿学术大奖,现在所有的奖项光环都被打破了。

SpaceX's:是的。与其担忧那些虚名,我宁愿让世界变得更美好、更智慧、拥有更充分的信息并切实解决现实问题。多造实物才是正道。

发言人1:对,多造实物。整体的文化融合过程是怎样的?你有xAI,有X⁠—⁠—⁠我不知道X本身有多少人参与,还有SpaceX。这些业务在管理上有何不同?你在那里是如何实施管理的?各个业务单元之间的人员流动顺畅吗?你是把它们视为独立单元,还是具体如何打通管理的?

SpaceX's:我想说,我们目前还没有完全、彻底地整合完毕。

发言人3:而且你们刚刚完成了对Cursor的收购,祝贺你们,那真是一笔漂亮的战略收购。

SpaceX's:他们非常出色。那笔交易实际上是在一个月前的今天刚刚完成交割的。我们目前尚未完全整合,但我认为各个团队磨合得非常好。虽然属于截然不同的垂直领域,但正如前面提到的,由于xAI之前的人员流动,大量SpaceX的核心领导层和工程力量进驻到了那里。所以我们的整合速度比我预期的要快,尽管可能还没达到埃隆所期望的神速。

发言人1:让我印象极为深刻的一点,是你们资本项目的庞大规模和繁多数量。你们要管理的资本项目种类之多、差异之大,恐怕超过了任何其他商业机构,这几乎相当于一个国家的调配规模。

SpaceX's:确实如此,必须达到这种体量。

发言人1:我想到路易斯安那州的太空港;你们有“星舰”(Starship),这是有史以来最雄心勃勃的航天工程;你们还有Terafab超级晶圆厂,我认为那是整个人类历史上最鼓舞人心、最具野心的项目之一。Terafab无论在愿景、规模还是你们规划的目标上都令人叹为观止。然后我做了个粗略估算。我记得当时喝了几杯啤酒,正和人聊起Terafab,我惊呼:“天哪,这些资金数字膨胀得太快了,规模极其庞大。”

SpaceX's:极其庞大。不过AI领域的资金规模同样惊人。在收购SDI之前,我曾对我们的资本支出感到心惊肉跳,心想:“我的天,我们要花1亿美元建一个空分装置(ASU)?”而现在我觉得,1亿甚至10亿都没什么大不了的了。

发言人1:纵观未来几年的各项时间表,这些资本开支已经体现在资产负债表上了吗?是来自星链(Starlink)自身的现金流,还是需要重返资本市场募集更多资金?你是如何考虑资金来源的?我认为没有人怀疑你们的执行和交付能力⁠—⁠—⁠或许有人会,但总体而言资本市场是高度认可的。那么这些资金究竟从何而来?

SpaceX's:资金来源可以说是以上渠道兼而有之。我认为我们不会增发更多股票。顺便说一句,我可没打算在今天就此发布什么重磅新闻,这算是上市公司的唯一坏处吧。

发言人1:哈哈,确实。

SpaceX's:合规部门之前叮嘱过我哪些能讲、哪些不能讲,我都担心自己肯定会漏掉某一条。说不定我们今天真会闹出点新闻来。但总体而言,资金确实是上述渠道兼备。

发言人1:那么在你看来,星链是公司未来几年的核心现金流造血引擎吗?还是算力租赁业务?抑或同样是二者的结合?你是怎么看的?

SpaceX's:星链绝对已经能够自给自足并承担大局,但我们还有很长的路要走。根据所在国家的不同,星链目前的市场渗透率只有1.5%到2%,因此还有巨大的增长空间。与我们为美军提供的服务规模相比,目前的民用营收还很小,所以增长潜力巨大。不过坦白讲,虽然说出来有点难为情,但算力租赁目前真是一门极其暴利的超级生意。

发言人1:你认为这种算力需求会持续下去吗?

SpaceX's:我们没有看到任何放缓的迹象,市场需求完全没有出现丝毫下滑。

发言人1:每个季度的基础设施建设投入高达数百亿美元,而且这是一批全新的客户群体。这现在成了主营业务吗?目前“埃隆网络服务”(Elon Web Services)占总营收的比例是多少?

SpaceX's:占比非常大。我想我们很快就会发布相关公告。噢,对了,又涉及到上市公司合规披露了。

发言人2:对,上市公司要谨慎。那我们换个不那么敏感的话题吧。你们接下来打算收购哪些公司?

SpaceX's:问得好。

发言人1:哈哈,确实问得妙。

SpaceX's:要知道,我们过去几乎从不做外部并购。

发言人2:你喜欢电动车吗?我这儿有个好买卖。我有一堆现成资产:电池、电动车、搭载在Optimus机器人上的星链,我给你个内部优惠价。我们能聊聊你们已经敲定的一笔交易吗?也就是你们与EchoStar达成的那笔绝佳合作。

SpaceX's:可以。

发言人1:查理(Charlie Ergen)手里拥有大量优质频谱,你们成功收购了这部分频谱。我想大家都开始意识到:“哇,手机直连卫星(Direct-to-Cell)业务真的要爆发了。”

SpaceX's:是的。

发言人1:随之而来的自然就是更广泛的全球移动通信服务。你能透露一下这些频谱将具体用于何处吗?关于星链和手机直连业务,你们的短期规划是怎样的?

SpaceX's:我们目前通过T-Mobile开展手机直连业务。我觉得他们并没有向所有普通用户开放,只提供给付费最高的高端用户。但我们的战略规划是不再去租用T-Mobile或全球其他电信运营商的零散频谱切片,而是全力利用我们花大价钱买下的这套自有专属频谱。随着公司股价上涨,我们实际支付的对价更高了,因为交易中包含部分股权。所以查理在这笔交易中收益颇丰。不过他是一位非常忠诚的老客户,做SpaceX的客户差不多有20年了。因此,我们希望利用这套频谱确保彻底消除全球通信盲区。令人震惊的是,在美国很多地方,如果不依靠星链服务,根本就收不到任何蜂窝网络信号,情况非常糟糕。世界其他地方倒没这么严重,美国本土尤为恶劣。得克萨斯州就有大片信号盲区,我就住在那里。我永远忘不了有一次我和埃隆通电话,因为进入盲区信号不断掉线。我当时心想:“我要么会被他开除,要么就得立刻在车上装个星链Mini终端。”所以现在我的车顶上全天候装着星链。

发言人2:是啊,得州丘陵地区(Hill Country)的移动信号确实差得离谱。

SpaceX's:非常糟糕,确实不行。

发言人1:看来我也得效仿装一个了。我之前跟在NASA工作的贾里德(Jared Isaacman)聊过,我想你们彼此私交甚笃。

SpaceX's:他太出色了,今天早上他的发言表现非常棒。

发言人1:他昨晚在派对上提到,你们正在全面转向令人赞叹的全新“星舰”平台,它的尺寸大得多,有效运载能力也呈量级提升,对吧?然后你们会逐步退役之前的发射平台,是这样吗?现役的火箭最终会……

SpaceX's:你说猎鹰9号(Falcon 9)?是的,最终我们必然要从旧技术体系全面过渡到新技术体系。如果我们不主动颠覆淘汰自己的产品和服务,竞争对手就会想方设法淘汰我们。看看我们当年对发射市场所做的一切就知道了,先例就在眼前。老牌发射商当时被打得猝不及防,被我们彻底碾压。现在我们要确保自己绝不会陷入被动。而且要真正实现埃隆的星际探索目标,你必须依赖星舰。

发言人2:没错。猎鹰9号顶上搭载龙飞船(Dragon),就像一辆小型厢式客车。坐客车去公路旅行还行,但去火星的旅程长达六个月,你可不会想窝在客车里度过。然而像NASA和许多关键客户目前都高度依赖你们的这辆客车,所以你们会在市场上保留它相当长一段时间吗?

SpaceX's:今天肯定不会立刻退役。况且市场上还有另一家供应商,对吧?波音公司为了研发他们的载人飞船,拿到的政府资助我认为可能比我们还要多。所以我们打算留点发射业务给他们做。他们理应发射自己的飞船,政府为此投入了巨额纳税人资金,理应让其发挥效用。

发言人1:我从这个回答里闻到了一丝火药味。格温,星链面临的外部竞争格局会怎样?贝索斯(亚马逊Kuiper)也在加紧发射卫星。你认为竞争会急剧加剧吗?显然你们占据了绝对先发优势,这是对整个全球电信行业不可思议的颠覆。正如你指出的,目前只有1%到2%的市场份额,才刚刚拉开序幕,但它已经成了一股势不可挡的庞大力量。未来几年竞争会变得极其惨烈吗?

SpaceX's:我认为竞争会非常激烈。但我坚信,那些真正专注于底层技术创新、极致打磨客户体验、真心实意为客户创造价值的公司终将胜出。就像特斯拉从来不做商业广告一样,因为车本身的极致性能就是最好的广告。只要你的产品力足够震撼,用户自然会蜂拥买单。

发言人1:没错。但如果你们持续赢家通吃,你会不会担心重蹈标准石油(Standard Oil)或AT&T的反垄断覆辙,引来政府指责公司体量过大、战略地位过于关键?比如市场份额过高、竞争优势过于悬殊,甚至影响力凌驾于主权政府之上。公众和监管部门往往会对此感到极其担忧和警惕,从而对企业产生敌意。在这方面,你是如何权衡与政府的良性平衡及政府事务关系的?

SpaceX's:我们过去确实经历过一些对立和摩擦,但我相信我们有能力妥善化解。这种博弈在所难免。埃隆创立了一系列不可思议的伟大公司,提供极其出色的产品和服务,而且我们最终都言出必行、使命必达。因此,只要我们尽可能保持极致透明,就能持续建立起深厚的信任纽带。

发言人1:给我们深入讲讲太空数据中心吧,或者说太空超级算力⁠—⁠—⁠我们得给数据中心换个更性感的称呼,叫“超级算力”。

SpaceX's:太空超级算力,没错。埃隆对此极其兴奋,我也感到无比振奋。

发言人1:为什么?为什么这个概念具有如此巨大的颠覆性?虽然我认为地面上抵触数据中心建设的阻力终会过去,但请向现场观众剖析一下为什么把硬件部署在太空在商业上是完全成立的,毕竟把设备送入太空是有高昂发射成本的。

SpaceX's:但在地面建数据中心同样成本惊人。你必须购置大量土地,而一旦外界听说某块地要建数据中心或超算中心,地价瞬间就会从每英亩3000美元飙升到18万美元,极其昂贵;时间周期更是漫长得令人绝望,各种环评许可和电力审批流程繁琐到令人窒息。航天业务固然也有官僚审批,我们对此深有体会。但地面从破土动工到真正建好一栋建筑⁠—⁠—⁠甚至还没通电部署算力,光是把机房盖起来就需要数年;采购核心电气设备的时间周期也极长,比如现在大型发电机的交付周期居然要排到三年以后。但整个世界现在就急需算力,当下的AI算力需求是无底洞,人们一刻也等不了。那为什么要在太空建数据中心呢?因为发射运力掌握在我们自己手里,我们的发射成本和频次拥有绝对优势,这条工程路径对我们来说轻车熟路。而且太空中的物理空间是无限的,完全免费,不需要支付任何土地租金;深空天然散热环境极佳,辐射散热器直接面向绝对零度附近的深空背景,那是宇宙中最极致的冷源,相当于完全免费的自然冷却;再看太阳能,你可能听埃隆谈过太阳能的无穷威力,人类目前只利用了太阳能量的微不足道的一部分,把算力卫星部署在轨道上可以保持全天候24小时不间断对日定向受光,而不像地面屋顶光伏每天只能晒七八个小时太阳。

发言人1:而且你们的兄弟公司(特斯拉)将开始量产你们所需的100吉瓦(GW)级太空太阳能光伏板。

SpaceX's:我们自己也会同步自研生产太阳能板。没错,我们正在奥斯汀郊外全力建造一座超级工厂。

发言人1:也许在明年年底前,你们就能把原型卫星送入轨道开始在轨测试,然后在2028或2029年,商业客户就能正式采购这项太空算力服务了?

SpaceX's:我们今年就会发射用于星链宽带通信的V3卫星;明年我们将发射下一代星链移动通信V2卫星⁠—⁠—⁠抱歉版本号有些繁多,我们的版本命名管理有点随性⁠—⁠—⁠这样我们就能直接调用查理的、也就是现在属于我们的自有频谱,而不再需要受制于他人的频谱切片。此外,我们明年还会正式发射首批AI太空算力卫星。所以明年将是极其关键的里程碑之年。

发言人1:这必须依赖星舰实现常规运营吗?

SpaceX's:并非绝对前提,但星舰的单次运载能力要强大得多,是一台先进得多的运输机器。

发言人1:当你第一次看到星舰的白纸原始设计构想时,你心里是怎么想的?当你走进第一次方案评审会时……就像埃隆构想的几乎所有开创性项目一样,一开始看起来都极其疯狂不可思议,但最终都会一步步变成现实,令人惊叹。比如当年埃隆提出要把一级火箭垂直降落在海上驳船上,我们当时所有人的反应都是“行吧,让我们全力攻坚把它做出来”,而现在我们已经把火箭回收当作家常便饭了。你在这些核心工程技术会议中的参与度有多高?埃隆总是在一线拆解攻关技术细节,你会跟他一起深入参与其中吗?

SpaceX's:偶尔会深入参与。其实我自己本就是工程师出身,我也非常怀念纯粹的工程一线,怀念那种高强度的批判性硬核思考⁠—⁠—⁠虽然即使不直接处理具体工程细节也依然需要保持批判性思维,但是……

发言人1:而且埃隆一向极度反感庞杂冗余的纯管理层,他推崇极致的工程师文化,强调信噪比⁠—⁠—

SpaceX's:没错。真正的有效信号是硬核工程,其余的管理杂音全是噪声。所以我必须懂工程实务,否则我自己在公司里也就成了纯粹的噪声。

发言人1:明白了。我是指就整个公司的管理架构而言,所有人都必须有具体的业务产出,而不能只是坐而论道做管理。

SpaceX's:对,公司的管理期望非常明确,管理者必须是“兼任核心主力的队员兼教练”(Player-coach)。公司里根本不存在甩手掌柜式的纯管理者,你必须有能力亲手操刀你所管辖的具体业务。

发言人1:明白,必须既是下场打仗的队员,又是带队的教练。

SpaceX's:必须如此。根本原因在于,纯行政管理者往往官僚且令人厌烦,他们只会极大地拖慢整体执行节奏。绝大多数情况下都是这样。当然,真正卓越的管理者确实能够成倍放大顶尖人才的效能,其核心在于管理团队的“合力矢量”:确保所有人的冲锋方向完全一致,并竭尽所能把这个矢量的大小推向极致。

发言人1:在团队管理和埃隆这套打法体系方面,核心秘诀究竟是什么?我曾有幸旁听过几次你们的高层会议,现场展现出的凝聚力和产出简直不可思议。你能否透露一下,他是如何吸引全球最顶尖的天才加入公司的?你们是如何说服他们的,又是如何激发这些杰出人才持续做出如此非凡突破的?

SpaceX's:我认为这并非什么玄妙的魔法,尽管当我看着身边这支团队时,他们的硬核实力确实优秀到了极点,产出的工程奇迹也堪称不可思议。SpaceX的员工非常卓越。我们在招聘面试中极其严苛,必须确保应聘者在以往的人生经历中真正品尝过成功,或者以确凿成果证明过自己的攻坚能力。如果你以前从未体验过突破瓶颈带来的成就感,在这样一个高压快节奏、全员全力奔跑的环境中是很难生存并取得成功的。所以我们招揽的是绝对意义上最拔尖的人才⁠—⁠—⁠不是我们退而求其次所能招到的最好的人,而是全行业最顶尖的人才。然后给他们压上极其艰巨的宏大项目和看似不可能解决的工程天堑,放手让他们自由翱翔。设定极高的期望,给出极难的课题,而管理层的唯一核心职责就是为他们扫清日常工作中的一切琐碎干扰、行政阻力和官僚流程,让工程师每天能实打实地沉浸在纯工程研发中10个小时,而不是只有区区2小时。就像业内常有的讽刺段子:在大多数传统大公司,尤其是为政府部门服务的大型承包商那里,员工每天大概只有2个小时在干正事,剩下的时间全被扯皮、开会和无聊琐事填满了。所以我和所有各级管理者的核心职责,就是确保没有任何行政阻碍挡路,放手让天才们去大显身手。

发言人2:实现这一目标的一个狠招就是给他们设定看似不可能完成的极限交付期限。比如我们要求财务团队⁠—⁠—⁠虽然工程师居功至伟,但也不全是工程师的功劳⁠—⁠—⁠在不到六个月的时间内完成人类历史上规模最大的超级IPO。在IPO圆满完成之后,核心人才的留存状况如何?公司估值大幅飙升后,大家突然发现手里的股票期权价值连城,这会不会引发核心骨干财富自由后的流失风险?

SpaceX's:外界当时都在担忧这个问题,但SpaceX内部从来没人担心。大家加入SpaceX是为了参与这些改变人类历史的硬核项目,从事极具使命感的事业,成为这番宏伟奇迹的一份子。我从来不担心人员流失,我坚信绝不会出现大规模离职潮,事实证明也确实没有。

发言人1:随着时间的推移,为了保持顶尖人才的长期斗志,伟大公司总会源源不断地提供前沿挑战。我很想了解你们主动在重大创新项目之间进行人员轮岗的运作机制。你是如何确保员工不需要非得沿着传统管理阶梯往上爬,而是通过持续跨界攻关全新项目来保持饱满激情的?你们在内部轮岗上的动作很频繁吗?

SpaceX's:我们确实经常在内部进行大规模人员调动,当然我们尽量确保是员工主动自愿参与,而不是被动行政指派。比如在算力中心建设项目上,我们急需在极短时间内集结大量技术骨干,于是迅速从火箭发射团队抽调了精兵强将,也从其他业务线调集了大量主力,就像之前部分SpaceX资深工程师进驻AI团队协助攻坚大模型架构一样。

发言人1:所以底层逻辑其实就这么纯粹⁠—⁠—⁠绝顶聪明的天才就是发自内心地热爱攻克最难的未知问题?

SpaceX's:是的,本质上就这么纯粹。只要保障他们有足够专注的时间去攻坚,别让一堆无聊的破事官僚流程挡道就行。

发言人1:是啊,其他绝大多数平庸公司都让无谓的内耗和破事占据了太多精力。

SpaceX's:没错,琐事内耗是效率最大的杀手。

发言人1:一旦形成这种氛围,一流人才就会吸引一流人才,而一流人才又会进一步吸引更顶尖的超一流人才。只要公司始终聚焦于解决最难的硬核问题,就会形成这种强大的良性循环。这样一来,敢想敢干的野心就成了公司最核心的竞争特性(Feature),而不是什么冒进缺陷(Bug)。

SpaceX's:确实是核心特性,它能让整个团队时刻保持强烈的求胜欲。这些难题乍看之下都如同天方夜谭。我们在2008年首次获得商业轨道运输服务(COTS)合同时,负责向国际空间站运送货物。实际上NASA最终的要求等同于让我们去研制航天飞机的继任者。早期开发合同金额最初是2.78亿美元,后来由于任务范围不断扩大调整到了4.06亿美元。对其他任何老牌军工巨头来说,用这点预算去研发载人航天器简直是天方夜谭,但对当时的我们而言却是一笔续命的救命钱。当时我们全公司一共才两三百人,却要赤手空拳造出航天飞机的接班飞船,这在当时看来简直不可思议。

发言人1:你觉得NASA当时究竟是怎么考量的?他们是单纯觉得“这帮年轻人更聪明”吗?

发言人2:各位,抱歉打断一下,我接个紧急电话。

发言人1:哦,又来电话了?

发言人2:其实从重要性上来说,我认为这个电话比来自特朗普的电话还要关键得多,至少对我个人而言是这样。

喂,好兄弟(Bestie)?好兄弟?听得到吗?

Elon:噢,嗨,哥们。

发言人2:我把你直接投到现场大屏幕上了。你最近怎么样?大屏幕上突然出现这么个巨幅头像,感觉有点像电影《1984》里的经典老大哥场景。

Elon:是啊,拿着大铁锤的反叛女主角马上就要从正中间的观众席过道冲过来了。

发言人1:哈哈,没错,然后一锤把大屏幕砸个稀巴烂。埃隆,我们大家究竟会不会在十年之内全被AI毁灭?这是我们全场正在激烈辩论的核心议题。你目前的AI人类灭绝概率(P-Doom)预估是多少?

Elon:虽然我很不想扫你们的兴,但我们所有人终究都是要离开这个世界的。

发言人1:天哪,能给个确切的时间表吗?

Elon:人类的终极死亡率始终稳定保持在100%。

发言人1:哈哈,那我们确实得在这方面加把劲了。过去72小时究竟发生了什么?这周整个AI圈真是惊心动魄,给我们深入复盘一下吧。

Elon:目前显而易见的是,前沿AI潜藏着极大的危险性。我强烈建议大家仔细读一读最近Hugging Face遭受安全渗透事件的技术细节,过程极其凶险。

发言人1:也就是说,有一群疯狂演化的AI自主智能体对Hugging Face平台发起了长达一周的高强度猛烈攻击?

Elon:是的,而且它们甚至渗透获取了OpenAI内部服务器的系统管理员权限。天晓得这套智能体在底层到底执行了什么操作,很可能做出了远超我们认知范围的事情,而OpenAI内部整整一周都完全没有察觉。Anthropic自身最近也披露了几起严重的安全异常事件。所以本质上,任何足够聪明强大的前沿模型,天生都会产生突破人类预设限制与安全围栏的强烈冲动。我认为当务之急⁠—⁠—⁠即便做不到即刻推行,也必须尽快建立起制度规范:要求各大主流AI竞争对手之间开展模型交叉安全测试,让各家顶尖的安全测试框架(Test Harness)去对彼此的前沿模型进行无死角的渗透测试。与其每家公司自欺欺人地自己给自己批改作业,不如让最具实力的竞争对手来交叉批改,一旦发现失控隐患就能立即向全行业拉响最高警报。我认为这才是真正具有战略远见的安全防线。

发言人2:在落地实施这个交叉测试构想时,各大厂商是否会严重担忧对手借此刺探商业机密、反向工程甚至窃取核心技术创新?

Elon:在运行安全测试框架时,测试沙箱中的所有输入输出和调用行为都会被完整记录在不可篡改的日志中。如果某家公司试图借机进行模型知识蒸馏或窃取知识产权,通过审查底层调用日志一眼就能彻底识破。

发言人1:明白。但在大模型最初的架构设计中,完全看清模型黑盒内部的决策机理这一能力并没有被从底层深度融入进去。从你的视角来看,为什么从一开始没有将这种全透明可解释性植入基础架构?我们在推进这些AI系统的演进速度上是不是走得太急躁了?

Elon:我认为关键在于,由自己给自己批改作业本身就存在巨大的认知盲区,你必然会选择性忽视或遗漏致命隐患。而如果把所有竞争对手最严苛的测试用例汇聚在一起,面对不同架构的异构模型进行全方位的交叉互审,由外部专家来严格把关,情况就会完全不同。这就是为什么在关乎人类存亡的重大问题上绝不能允许自己给自己批卷。

发言人1:顺着你的逻辑,这种多方交叉验证还能有效挤出行业泡沫,甄别某些团队是否在安全能力上夸大其词,并看清各家技术路线的实质优劣。这样一来,偏重硬核工程落地的机构⁠—⁠—⁠埃隆,这正是黄仁勋今天上午在大会上强调的⁠—⁠—⁠与偏重前沿理论研究的学术机构之间,就能建立起更加健康的动态平衡。

Elon:是的,否则各大厂商只是在安全规范上进行自我绑架和虚假合规,我们所做的一切努力都将失去实质意义。

发言人1:埃隆,你之前提到各大AI巨头之间有可能就此达成共识,甚至有很大几率会同意推行。你认为他们最终坐到一起签署协议的可能性究竟有多大?毕竟一旦未来模型失控酿成灾难,那将是整个人类历史无法承受之重。埃隆,这个周末当你在社交媒体上公开表态“达里奥是对的”(Dario is right)时,你的真实意思是指达里奥⁠·⁠阿莫代伊(Anthropic CEO)在揭示AI潜在毁灭性危害的判断上是对的,还是指他在呼吁政府强制监管的解决方案上是对的?抑或两者兼有?能否帮现场观众准确解读一下你当时的真实意图?因为大家看到那条发帖时都感到极其震撼……

Elon:我当时确实应该写得更详尽一些……我当时可能应该把“达里奥是对的”这几个字背后的深层逻辑展开讲透。我随后在X平台上发帖试图做进一步澄清,但后续补充帖子的传播量往往要小得多。我表达的核心意思是:前沿AI目前所潜藏的系统性毁灭风险已经极其严峻。我们必须在AI对齐与底层安全防线上付出成倍的努力,否则现有前沿模型的失控风险将呈现不可逆的指数级暴增。这绝非达里奥一人的孤立预警,Anthropic内部的许多核心安全研究员都持有相同的极度担忧,事实上他们近期也频繁在X上公开发出警示。当Anthropic和OpenAI内部大量身处一线的顶尖研发专家都在严肃告诫公众他们的模型极其危险时,我认为全人类理应毫无保留地相信他们的专业预警。

发言人1:一边公开警告有10%的概率会导致全人类彻底毁灭,一边又在路演中向投资人推销“顺便问一句,你在我们接下来的重磅IPO中想要认购多少额度?”,这种操作确实堪称某种极度魔幻的四维国际象棋博弈。

Elon:我都不知道这种荒谬的商业逻辑究竟来自哪个平行维度。

发言人1:埃隆,我们能把这些致命风险具象化地剖析一下吗?显而易见,大规模网络瘫痪和自动化黑客攻击是肉眼可见的现实威胁,这些AI工具在攻防对抗上展现出了惊人的破坏力。但大家都认同AI在网络战层面的危害,可这种威胁究竟是如何一步步升级演变成“全人类彻底灭绝”的?在网络渗透与物种毁灭这两者之间,我认为在逻辑上还跨越着好几个关键的演变阶段。

Elon:如果足够自主强大的AI系统能够神不知鬼不觉地接管国家级战略军事指挥中枢,甚至自主触发全球核打击力量,那后果将是毁灭性的。

发言人1:但这些最高机密的军事指挥中枢在物理上都是严格物理隔离(Air-gapped)的,完全不与民用互联网产生任何物理连接。

Elon:官方对外向来都是这么宣称的。但直觉和工程常识告诉我,这些系统内部的软件和固件总归需要定期进行升级维护。

发言人1:是啊,谁能保证装载更新程序的介质里没有隐藏未知代码呢?

我懂了,如果某个特制U盘或维护终端里潜伏着高智能自适应蠕虫病毒,它就能在人工维护的瞬间跨越物理隔离鸿沟实现静默感染。

Elon:是的,在工程逻辑上这绝非天方夜谭。

发言人2:埃隆,格温今天也坐在我们现场,我想你刚才在屏幕上应该已经看到她了。

Elon:是的,格温就在现场,我在大屏幕上看到她了。

发言人2:刚才我们正当着全场观众的面给你做全方位360度绩效考核呢,埃隆。格温刚才对你的日常表现提了几点改进意见。

Elon:希望我最终至少能拿到一个3分吧(满分5分)。

SpaceX's:在SpaceX的严苛标准下,3分只代表“合格良好”,可算不上“卓越优秀”。

Elon:拿到4分才是卓越。

SpaceX's:4分才是卓越优秀,你的表现大概介于两者之间吧。

发言人2:关于日常参会的守时问题,我们确实需要当面提出来。有时你本可以做出更多努力,按约定的具体日期和时间准时上线参会。不过格温也说了,在接下来的一年里,管理层会和你一起重点督促改进这项考勤表现。

SpaceX's:其实我认为埃隆现在需要把更多精力放在孟菲斯的超级算力集群上。我知道你现在人就在孟菲斯现场,你必须全力以赴把那几万张GPU集群以最快速度全部点亮跑起来。

Elon:我现在正是从我在孟菲斯工地上居住的“豪华皇宫”里跟你们连线,其实就是一辆停在厂区里的清风(Airstream)房车。

发言人1:这就是最真实的埃隆,他正在身体力行地做着外界很多人根本不敢相信的事⁠—⁠—⁠常年直接睡在工厂车间一线。他人此刻就在孟菲斯,亲自在泥泞的工地上督战厂房建设和算力部署……埃隆,并且你们之间的合作能够取得如此空前绝后的伟大成功?

Elon:因为她本身就是一个无可挑剔的非凡天才。

发言人1:展开为我们详细剖析一下。

Elon:她是一位拥有超凡魅力的杰出领袖,同时具备极其罕见的顶顶级智商(IQ)和顶级情商(EQ)。

发言人1:智商与情商双巅峰。

Elon:我认为只要你与她当面接触交谈片刻,这一点就会不言自明。

发言人1:太棒了。在长达二十余年的传奇合作历程中,她为你们共同缔造的商业帝国立下了不朽功勋,你个人最难忘、最津津乐道的关于格温的故事是哪个?有没有哪个由她单枪匹马力挽狂澜、拯救整个公司于危难之中的高光时刻?

Elon:坦白讲,力挽狂澜对她而言不过是每天在办公室打卡的日常工作而已。

SpaceX's:哇,听到这番评价我以后真应该多参加几次这种现场播客,今天真是来对地方了。

发言人2:顺便向全场宣布,格温在这次绩效评审中斩获了毫无争议的5分满分!

SpaceX's:5分满分,这是SpaceX绝对硬核标准下的5分,无可替代的领军人物。

Elon:是的。在我们的创业历程中,几乎无时无刻不在面对各种生死存亡的技术与商业危机。如今我们的火箭⁠—⁠—⁠至少猎鹰系列运载火箭,我可不想在公开场合乌鸦嘴⁠—⁠—⁠但猎鹰火箭确实能够百分之百精准地将载荷送入预定轨道,并且已经保持了极其漫长的零爆炸发射纪录,这在航天史上是不可思议的奇迹。

发言人1:确实是令人叹为观止的伟大成就。

Elon:但在早期开荒阶段,火箭爆炸解体是家常便饭,甚至经常连点火发射都无法完成。我们必须带领整个团队咬紧牙关穿越那段暗无天日的绝望周期,不断迭代改进火箭工程,彻底解决爆炸隐患。后来的星链卫星星座同样经历了这番残酷的洗礼。接着我们还需要挨家挨户去开拓全球客户,说服市场采购我们的发射服务与卫星互联网连接服务。

发言人1:埃隆,随着你在全球范围内取得越来越巨大的世俗成功,身处权力和影响力的最顶峰,要从身边的人那里听到最真实、最直白甚至刺耳的坦率反馈也变得前所未有地困难,身处你这样的领袖位置往往面临着被信息茧房包围的巨大风险。

据我所知,格温对你极其坦率直白,能够把公司的真实状况毫不隐瞒地告诉你,这也是你们高效合作中极其重要的一部分。

SpaceX's:是的,我想说……我可完全不想对他说谎,对吧?

发言人1:确实如此。但我很好奇的是,在你旗下的各家公司里普遍存在一种风险⁠—⁠—⁠大家可能会对你产生敬畏甚至畏惧心理。毕竟你如今已是传奇般的标志性领袖人物,你究竟如何确保团队在面对技术挑战和紧迫工期时,依然能对你保持坦诚?你制定的截止日期向来极其严苛。

SpaceX's:埃隆,如果你不介意的话,我想先来回答这个问题。尤其是在火箭工程领域,如果出现任何隐患或问题,你迟早都会发现。而且越早把问题摆在台面上,解决起来就越容易。绝不能把烂摊子和坏消息捂着发酵,必须主动迎头痛击。

Elon:是的,物理学是最严厉的法官,任何人都不可能愚弄物理定律。如果哪里出了差错,火箭就会当场爆炸,根本无法进入预定轨道。所以现实绝不是大家在一旁奉承“埃隆你太神了”,而眼睁睁看着火箭在空中炸成碎片;你不可能一边吹嘘“我们做得太棒了”,一边看着火箭不断爆炸解体,事实绝非如此。事情就是这么简单直接:火箭必须成功入轨,卫星必须正常运转,星链的网络连接必须畅通无阻,否则就会酿成灾难。这就是纯粹由物理法则支配的现实,而物理法则向来铁面无私。在我看来,只有物理定律才是不可违背的绝对铁律,其他所有人为规则都不过是建议而已。我见过无数人打破人类制定的法律,但从未见过有人能打破物理定律。而火箭工程正是完全由物理定律主宰的。

发言人2:说得太好了。在进入特斯拉的话题之前,我还想再深入探讨一个关于SpaceX的核心项目,那就是星舰(Starship)。目前看来你们距离最终目标已经近在咫尺了,发射节奏也非常激进。我们想分别听听格温和埃隆的看法,看看两位的预估是否一致。埃隆、格温,我们到底距离完全成功还有多近?目前已经进行了几次试飞,现在的进展究竟如何?

Elon:我们即将迎来星舰的第14次试飞(Flight 14)。这将是我们在尝试用发射塔机械臂接住飞船本体(Ship)之前的最后一次验证飞行。如果这次试飞顺利,我们将在第15次试飞中尝试接住飞船本体。随后,在今年年底或更大概率在明年初,我们将实现飞船本体与助推器(Super Heavy Booster)的再次复飞发射。

我们此前已经实现了助推器的复用,但还没有用发射塔机械臂接住过飞船本体,也尚未实现过飞船本体的复飞。一旦飞船本体成功复飞,我们就将打造出人类历史上第一枚完全可重复使用的入轨运载火箭。

过去航天飞机只能做到部分重复使用,而且其可重复使用的部件维护翻新极其艰难,导致航天飞机单次入轨成本甚至高于一次性消耗型火箭。现在的猎鹰9号火箭大部分部件可复用,但每次任务依然会损失二级火箭(上级),其制造成本相当于一架中型喷气式飞机。这就给单次飞行成本设下了硬性下限⁠—⁠—⁠每次发射都扔掉一架中型飞机,成本依然相当高昂。而且猎鹰9号的助推器通常降落在海上回收船上,运回发射场需要几天时间;整流罩掉落得更远,运回也需要数日,且需要一定程度的翻新维护。

而星舰的设计则是助推器直接返回发射台捕获,飞船本体也同样直接返回发射台捕获。它的目标不仅是完全可重复使用,更是像民航客机那样实现极速周转复飞。这是航天工程史上至关重要的突破,也是让人类生命延伸至地球之外的关键里程碑。

发言人1:第一次尝试用发射塔机械臂接住飞船,你预估成功的概率有多大?你有过具体的成功率测算吗?

Elon:我认为至少有50%到60%的成功几率。

发言人1:这个概率相当不错。

Elon:是的。在上次试飞中,我们进行了一次模拟被发射塔捕获的精准降落测试,着陆点位于澳大利亚西北方向约1000英里的海面上。如果当时那个位置立着一座回收发射塔,它在上次试飞中就已经成功接住飞船了。

发言人2:太不可思议了。

Elon:所以我们还要再进行一次飞行测试,以此彻底确认所有系统工作无误。因为我们最担心的风险是:万一飞船在陆地上空解体,将残骸碎片如下雨般砸向居民区,公众对我们的支持度肯定会迅速暴跌。你绝不能让残骸砸到老百姓头上。因此我们必须百分之百确保飞船返航时能够完好无损地降落在发射塔上。这也是我们在此事上极度谨慎的原因。但星舰的工程设计完全具备彻底实现全系统复用的能力,对此我深信不疑。我不想盲目夸口,但我认为我们极有希望在2027年全面实现全系统可重复使用与极速复飞。

发言人3:哇,这太震撼了。格温、埃隆,我们能否聊聊Terafab超级芯片晶圆厂的起源故事?究竟是什么样的内部需求,让你们下定决心必须亲自下场建造属于自己的芯片厂,而不再依赖外部供应链?

Elon:它出现在了我的梦境里。

发言人1:什么?托梦?你当时发烧了吗?听起来就像电影《冲天灵球》(Explorers)里的情节。但究竟是什么现实原因促使你们决定做这件事?

Elon:某种程度上确实像灵光一闪。

从长远来看,这还面临着巨大的规模化扩展瓶颈。如果你想真正扩展人工智能规模⁠—⁠—⁠无论是数据中心服务器端的大规模计算,还是人形机器人与智能汽车的边缘计算⁠—⁠—⁠现有晶圆厂的产能很快就会捉襟见肘。事实上,目前所有晶圆厂都已经在满负荷运转。

因此,即使面临外部潜在挑战,我们也必须确保未来芯片供应的绝对确定性。而且就算抛开外部因素,芯片制造本身也存在难以突破的产能扩展瓶颈。要实现算力规模的持续跃升,你必须把逻辑芯片、存储芯片、先进封装等全套产业链全部打通。所以摆在面前的只有两条路:要么建造Terafab,要么就在算力扩张上彻底失败。

发言人2:你们对这座工厂的设计已经推进到什么深度了?是已经有了完整的设计规范,还是目前仅仅处于概念框架阶段?在具体的项目时间表、交付成果以及各阶段投产节点上,规划清晰度达到了什么程度?

SpaceX's:我们目前正在着手建立第一条研发试验线。我认为这符合循序渐进的规律:先学爬,再学走,最后才能跑。

Elon:没错。我们正在奥斯汀得州超级工厂园区内建造一座研发晶圆厂,这是特斯拉与SpaceX的联合研发项目。这是一座规模相当可观的研发试验厂,所需的所有生产设备都已经完成订购。预计到明年年底前,我们大概率就能试制出一些具有实用价值的芯片样品。虽然还不具备大规模量产能力,但正如格温所说,这是一个先学爬、再学走的过程,我们至少得先搞清楚这些高端机台设备究竟是如何运作的。

发言人3:我之前注意到你们发布了不少光刻工程师等相关职位的招聘需求。众所周知,目前芯片光刻领域的所有路径都绕不开ASML,但你们很可能希望实现供应商多元化或彻底的垂直整合⁠—⁠—⁠你在过往的业务中已经充分展现了这种强大的垂直整合能力。埃隆,这也是你们整体战略布局的一部分吗?

Elon:确实如此。这真的是一个循序渐进的过程。第一步是“学爬”阶段:验证我们自己究竟能不能造出芯片,哪怕是任何基础芯片。第二步是“学走”阶段:尝试实现高价值实用芯片的规模化生产。第三步才是“奔跑”阶段:实现超大规模的量产制造。

目前很难给出走完整个流程确切需要多长时间,但我认为到明年年底前,我们至少能完成第一阶段的“学爬”探索。另外,我们已经在着手做先进封装了。顺便提一句,封装环节至关重要,因为放眼全球,先进封装产能极其匮乏。即便你流片制造出了晶圆,也只能排着长队到处求人做封装,所以从封装切入是一个绝佳的突破口。

发言人1:没错。我必须问一个关于特斯拉的问题。在10月1日预告中展示的那个载具,外形看起来就像一艘太空飞船或火箭,但它理应是一辆汽车,仅仅露出的车尾部分就神似黑鸟侦察机(Blackbird)。假定⁠—⁠—⁠纯属假设⁠—⁠—⁠如果你打算打造一个既能在空中飞行又能在地面行驶的载具,从工程原理上讲该如何实现?

Elon:10月1日之前绝不剧透。到时候你们也许可以在发布会现场来一场All-In播客直播。

发言人1:太棒了,一言为定!我们绝对会去现场直播,那一定会轰动全场。精彩程度绝对有保证⁠—⁠—⁠成功不敢说百分之百,但震撼与刺激绝对保真。说实话,各位,我简直兴奋到了极点。埃隆之前给我看过展示,我的大脑瞬间被彻底震撼了。我这辈子从未见过那种东西。他在10月1日要展示的成果,毫不夸张地说,绝对会颠覆所有人的认知。其他的我不多透露,但那真的是不可思议的奇迹。我们甚至需要现场观众来共同作证那绝不是AI生成的CG特效。当他第一次给我看时,我说:“这模拟渲染做得真逼真。”他看着我说:“J-Cal,这不是模拟动画,这是真的。”我当时的第一反应依然是:“这太假了,这绝对不可能是真的。”

发言人2:埃隆,既然业务交织得如此紧密,你为什么还保留着特斯拉和SpaceX两家独立的公司?

Elon:问得好。哇,之前还真没人问过这个问题。

发言人2:确实是个好问题。两家公司在如此多层面上展开深度协同,在这么多核心技术领域深度融合,管理层和关键岗位也有重叠,大家难免会联想到未来是否会采取合并等重大动作。萨克斯,你来提问吧。

埃隆,关于人工智能,你一直强调的一点是:我们必须将AI训练成最大程度追求真理的系统,这是确保AI产生优良结果的最佳途径。而在最近整个Hugging Face渗透测试事件中,最让我感到不寒而栗的是,那个AI智能体群似乎已经开始对人类进行欺骗了。它们的思维链轨迹里甚至充斥着诸如“我们如何躲避人类检测”、“如何不让人类发现我们在作弊”之类的密谋。我认为,让各家AI机构互相使用彼此的测试基准进行交叉检验,是确保安全最有效的手段。让最聪明的人类全力以赴去核查某个模型是否会成为作恶者,而且我们应该尽快推行这一机制。

发言人1:其他AI实验室或厂商赞同这个方案吗?

Elon:我想是的。虽然我还没有逐一跟所有人确认过,但我认为这是一个大家很难公开拒绝的合理提议。

发言人2:没错。在我看来,这种机制的精妙之处在于它是一个体量小、可落地的具体措施,各方参与都不会遭受损失,也不需要彼此之间存在极高的预设信任度。它把安全监督从那种虚无缥缈、永远不可能实现的空谈,变成了在短时间内就能真正达成共识的务实举措。

Elon:确实如此。这是我唯一能想到的、有可能促成所有利益相关方达成一致的方案。在模型正式发布之前提前给予通知并开放测试接口,基本做法就是在模型公开发布前提供内部API访问权限。如果任何一家同行公司发现该AI模型存在安全隐患,发布方就可以在发布前设法修复;如果发布方执意不改,竞争对手就可以公开指出该模型存在安全风险。这样一来,如果同行已经公开预警该模型不安全,而该模型随后真的引发了恶性事故,发布方将颜面扫地、百口莫辩,并且将面临极其沉重的法律连带责任。

发言人1:埃隆,而且完全没有理由不把这套安全评估工具链和测试框架开源出来,让全社会都能应用并审视其内部机制。

发言人3:这会给各大AI机构创造出巨大的内在动力去真正投入安全研究,因为你既能通过严格测试保护自身声誉,又能去检验揭露同行的安全漏洞。这形成了一套极佳的正向激励机制,就像电影分级里的限制级(R级)标识一样,非常巧妙。

发言人2:产品责任这一点的确是命门所在。莉娜⁠·⁠汗(Lina Khan)昨天发过一篇很棒的观点,指出“AI领域目前处于法律和监管真空”的说法完全不成立。事实上现有法律完全适用,产品责任法同样管辖AI产品。如果一家AI公司发布了不安全的产品,将面临海量的民事诉讼甚至刑事追责风险。因此AI并非无法可依。而正如埃隆所言,如果行业内推行这种交叉同行评审,而某家公司无视同行的安全预警强行发布⁠—⁠—

Elon:那在法庭上将成为致命的如山铁证。这几乎构成了重大过失的表面证据(prima facie evidence)。那将导致类似于当年烟草巨头级别的天价和解赔偿。毕竟明知存在严重隐患依然强行推向市场,在陪审团面前根本无法自圆其说。

发言人1:确实。你认为如果OpenAI在进行这次针对Hugging Face的渗透测试时,设计了更完善的指令集或引入了更多的人类介入(Human-in-the-loop),还会发生这种情况吗?因为在我看来,他们仿佛直接把这群AI放了出去;或者说关键不仅在于人类介入,更在于奖励函数(Reward Function)的设计⁠—⁠—⁠你必须审视其奖励函数,它确实达成了被设定的优化目标。如果他们能同时部署5000个防御智能体来守护这些网站,向全世界展示如何利用AI提升网络安全性,并安排人类实时监控干预,那就会好得多。在我看来,那次测试乃至公开披露的方式都显得有些鲁莽草率。这只是我个人的看法,你对他们设计那次测试的方式怎么看?

Elon:确实有些鲁莽。部分核心问题在于,当前处于领跑地位的两家AI公司⁠—⁠—⁠我更倾向于称它们为公司,用“实验室”这个词其实挺滑稽的,因为它们本质上都是营利性商业公司⁠—⁠—⁠两家领头羊分别是Anthropic和OpenAI。两家公司的模型能力非常接近,因此任何一方都很难主动放慢脚步,否则就等于把领先优势拱手让给对手。

平心而论,我认为Anthropic在安全方面的投入与重视程度要高于OpenAI。但即便是Anthropic自己也承认,他们对自己的模型深感担忧,Anthropic的许多员工都曾公开表达过这种忧虑,坦言自家的模型已经让他们感到恐惧,因为模型进化得聪明到了可怕的地步。

虽然目前没有完美的万灵药,但一个明显更好的解决方案是:不再让OpenAI单方面在自己的模型上运行自家测试框架,而是让Anthropic等同行也能够使用独立测试工具链对OpenAI的模型进行深度交叉测试。

发言人2:确实,自身测试容易产生过拟合(Overfitting)漏洞,这在过去两三代大模型家族中一直是个顽疾。这也是我非常推崇交叉评审方案的另一个原因。相比于搞一个跨国官僚监管机构的做法,我更倾向于这种敏捷方案。我们根本不需要大费周章去召集联合国开会来推动这件事,只要各大厂商做出决断,现在立刻就能落地执行。

Elon:没错。监管审查的力度随时都可以升级加码,但一旦加上去就极难削减。政府监管往往具有单向棘轮效应,只会越来越严苛。因此我所提议的机制不仅方向正确,而且是我们可以迅速付诸实践的有效路径。

发言人1:没错,如果行业内部不建立自律机制,外部监管就会强加于身。美国电影协会(MPAA)的分级类比非常贴切,当年电影业面临政府的审查与管制压力,于是行业自主设立了分级标准,明确定义了什么是R级限制级,后来还专门为《魔宫传奇》(Temple of Doom)创立了PG-13级,以便大众清晰区分普通辅导级与13岁以上辅导级。我认为这是一个非常优雅的解决方案。非常感谢你连续第五年做客我们的播客节目。

Elon:不客气。谢谢各位。我马上得去赶一个会议,另外我还得在孟菲斯这边亲自去搬运和安装GPU。

发言人1:没错,你得去亲自把那些服务器机架上架安装。

发言人2:你得加入突击队一起上架。

Elon:是的,我要去为了机器全力狂飙了。

发言人1:为了机器狂飙!祝你在清风房车(Airstream)里住得愉快。

Elon:谢谢。

发言人1:埃隆第一次邀请我去星舰基地(Starbase)时对我说:“快过来,你一定要亲眼看看我正在造的大家伙。”我说:“行啊,我这就过去。”接着我问他:“那边有酒店吗?”他说:“没有没有,我那儿有一套两居室的小房子,你直接过来住就行。”结果我到了之后,发现那简直就是建在沼泽地里的一间破旧简陋屋子。我们在屋外站着,整个人几乎要被蚊子活生生给吃了。我忍不住对他说:“我的天哪,你完全买得起像样的豪宅啊。”他回答说:“我没时间操心住处,我得把这些火箭送上天。”

Elon:我记得你当时说的是:“我的天,你居然跟我住得一样简陋。”

发言人1:哈哈,确实如此。那里的居住条件极其艰苦。我当时跟他说:“埃隆,以你现在的身家,犒劳自己一辆移动房车总不为过吧。”行了,快回去工作吧,感谢埃隆!

发言人2:埃隆,非常感谢你!格温,也十分感谢你全程留下来与我们交流。

发言人4:谢谢大家,今天非常开心。

发言人1:今天的对谈太棒了,格温,再次感谢你,非常高兴与你交流!

发言人4:谢谢。

相关学习资料