夜雨聆风学习资料网

ARTICLE · 1183717

地下室手搓7卡AI超算:主机6千改造2万!硅谷大佬集体占领酒窖:绝不给云当佃农

地下室手搓7卡AI超算:主机6千改造2万!硅谷大佬集体占领酒窖:绝不给云当佃农

在华盛顿州贝尔维尤的一栋豪华独栋住宅里,有一间看起来再普通不过的地下室。

柔软的皮质沙发、连着游戏机的大屏幕,以及一台落了灰的 Peloton 动感单车。可就在单车与沙发之间,空气正在剧烈扭曲,耳边回荡着近乎直升机起飞般的尖啸声。

那是一台裸露的黑色钢架主机

粗壮的防跌落扎带上,横七竖八地插着整整 7 块英伟达 GPU(图形处理器)。机身四周缠满了工业级供电线缆,七个风扇正在撕心裂肺地咆哮,狂暴的热浪源源不断地喷涌而出,将地下室的温度迅速推向令人窒息的高点。

这台外表狂野、毫无美感可言的“自制核潜艇”,主人是前微软杰出工程师、技术院士(Technical Fellow)Gary Flake。

这位曾掌舵微软 Live Labs 的顶级计算机科学家,如今正坐在这台轰鸣的机器旁,把数以 TB 计的人类脑电图(EEG)原始生物数据一股脑塞进显卡,在自家地底下通宵达旦地训练私有 AI 大模型。

▲ 《The Information》官方披露:前微软高管自建 7 卡地下室超算

消息一出,科技圈一片哗然大家惊叹于有人敢在家里手搓超级计算机,更被《The Information》曝光的荒诞财务账单所震撼:

整台 7 卡主机,全是 Flake 从二手市场淘来的打折货与拆机件,总造价不到 6000 美元(约合人民币 4.3 万元)。

然而,为了不让这 7 头吃电巨兽把自家的电表烧穿、不让高温把房子点着,Flake 咬紧牙关,请来工程队对地下室的配电柜和中央暖通空调系统(HVAC)进行了近乎拆家级别的彻底重构,

改造基础设施的账单,高达 1 万到 2 万美元!

买主机的钱,甚至还不够给它吹空调

在所有人都习惯了“轻资产、一键上云”的今天,这位科技老炮为何宁可承受如此昂贵的折腾,也绝不把数据送上亚马逊或微软的云端?面对记者的追问,Gary Flake 扔下了一句掷地有声的名言:

“我不想租我想拥有(I don’t want to rent. I want to own)。”

01算力经济学算账:35天就能烧光两万美元,到底谁是冤大头?

很多人第一反应是怀疑:堂堂微软前高管,难道不会算账吗?

在传统认知里,自建机房属于典型的“大冤种行为”。不仅要承担沉重的固定资产折旧,还要忍受噪音、高温和随时死机的折磨。按月给公有云交点服务费,难道不香吗?

大错特错恰恰是因为顶级架构师太懂算力账本,他们才逃得比谁都快。

我们不妨拆开现代公有云(AWS、微软 Azure、Google Cloud)的黑盒,算一笔触目惊心的真实账单:

▲ 网友对“七卡不到六千美元”感到震惊,但这恰恰击中了自建的超高性价比

在亚马逊 AWS 上,想要租用一台能跑得动高吞吐量训练任务的 8 卡老代机型(比如搭载 8 张 V100 的 p3.16xlarge 实例),每小时标价高达 24.48 美元。

如果你有一项类似 EEG 脑电波分析的长周期科研任务,需要机器 7×24 小时不间断运行:

  • 单日租金
    :近 600 美元;
  • 单月租金(按 720 小时计)
    :直接飙升到 17,625 美元(约合人民币 12.8 万元)!

看清楚这个数字了吗?

仅仅连续运转 35 天,你在公有云上烧掉的租金,就足以一次性全额报销 Gary Flake 那台 7 卡主机加上两万美元空调配电改造的全部总投入!

如果选用更新一代的 A100 实例(p4d.24xlarge),单月租金更是超过 2.3 万美元。对于需要日夜不停迭代私有模型的技术狂人而言,公有云早已沦为深不见底的“吞金黑洞”,毫无所谓的弹性可言。

这还没算上恶心至极的“隐形过桥费”

公有云有一项霸王条款,数据出网费(Egress Fees)。Flake 训练的是极其庞大、未经压缩的 TB 级生物电信号。如果你把本地传感器采集的数据频繁上传到云端,或者中途想把模型权重完整拷回本地,每 GB 都要被云巨头狠狠扒下一层皮。

那么,去租那些号称便宜的二线算力平台(如 RunPod、Lambda)呢?

确实便宜不少租用等效于 7 张 RTX 3090 的算力,月租大概在 1300 到 1800 美元 之间。

可是在自己家里呢?

Flake 所在的华盛顿州贝尔维尤,坐拥哥伦比亚河丰沛廉价的水电资源,民用电价每度电只有低到不可思议的 0.12 美元。即便 7 张满载显卡加上大功率制冷空调全天候狂飙,整套系统一个月的综合电费也仅仅只有 300 美元左右。

两相对比,残酷的真相浮出水面:

哪怕跟市面上最便宜的 GPU 算力云贴身肉搏,只要任务持续高负荷运行超过一年,自建硬件的总体成本就会彻底打平。

而在那之后,这套庞大的计算怪物,每一个小时都在为主人纯赚真金白银。云巨头费尽心机包装出来的“弹性租赁”,在大规模持续算力面前,瞬间沦为了剥削开发者的赛博高利贷。

02硅谷名流的秘密狂欢:倒掉拉菲,把机架塞进酒窖!

在硅谷,效仿 Flake 逃离公有云的大佬不在少数。

科技特稿巨头《The Information》在深度调查后给出了一个定性判断:一场前所未有的“本地 AI(Local AI)囤积潮”,正在悄然席卷美国科技精英圈。

▲ 《The Information》特稿编辑 Nick Wingfield 指出:工作负载正在全面占领酒窖、阁楼和地下室

过去二十年,硅谷富豪们在豪宅里攀比的是恒温泳池、家庭影院和私人酒窖。

而今天,最硬核的身份象征,变成了谁能在自家的非常规空间里塞进更多算力。

最先将这场狂欢推向高潮的,是千亿电商巨头 Shopify 的创始人兼首席执行官 Tobi Lütke。

2026 年秋天,Lütke 在社交网络上甩出了一张足以让所有极客颅内高潮的照片:

他在多伦多的私人豪宅里,原本拥有一间通体采用隔音隔热钢化玻璃打造的顶级恒温酒窖。但他把里面名贵的红酒全挪走了,取而代之的是三组直冲天花板的标准服务器机架。

▲ Shopify 创始人 Tobi Lütke 在多伦多豪宅中打造的“机架酒窖(Rack Cellar)”

照片里,炫目而优雅的粉紫色环境灯光下,整齐划一的企业级网络交换机、配电单元,以及价值连城的英伟达 DGX Station 桌边超级计算机 正在静默运转。

面对网友排山倒海的围观与追问:“你到底在家里跑什么见不得人的东西?”

Lütke 只是云淡风轻地回了六个单词:

“The gradients need to descent.”(梯度总得下降吧。)

▲ 一句“梯度总得下降”,成为极客圈最硬核的暗号

▲ Lütke 此前公开致谢英伟达送来的 DGX 算力巨兽

但要把算力搬进家门,绝大多数普通开发者显然没有财力去修一间恒温玻璃酒窖。

对于更多工程师而言,家庭微型数据中心的尽头,是一场与物理规律的殊死搏斗。

GPU 本质上就是一台高效率的“空间电暖气”,它吞进去的几乎每一度电,最终都会 100% 转化成滚烫的热能。

知名软件公司 Crazy Egg 的首席执行官 Hiten Shah 在家里疯狂塞进了 18 台电脑(其中包括 14 台顶配 Mac mini 和 Mac Studio)。机器全速推理时,原本舒适的起居室温度瞬间飙升到 85°F(近 30°C),全家人宛如置身于热带雨林或洗浴中心桑拿房,逼得他不得不紧急砸钱全屋装空调。

另一位在 YouTube 上拥有大批粉丝的波兰架构师,曾尝试在卧室运行一台 4 卡英伟达主机。结果没过几天,他就被 70 分贝以上穿脑而过的涡轮风扇噪音折磨到精神衰弱,整个房间又干又烫。最终,他狼狈不堪地把这头怪物连夜发配到了连人都站不直的阁楼深处。

算力没有瓶颈,物理学才有

03蚂蚁雄兵:买不起机架?厂商把主意打到了你的旧电脑上

除了在地下室折腾的硬核玩家,站在产业顶端的硬件巨头同样嗅到了这股风向。

开源社区里,以 OpenClaw 为代表的本地自主智能体(Agent)平台全面爆发,开发者不再满足于仅仅调用几下网页端的对话框,他们需要自己的智能体在后台 24 小时不断抓取数据、写代码、反思迭代。

戴尔(Dell)工程师公开证实:面向家庭场景的高端工作站和桌边超算需求,正在迎来报复性暴增。戴尔甚至在宣传材料中打出标语:“相比按月给云厂商缴纳昂贵的 API 费用,买断本地多卡工作站,只需几个月就能完全回本”。

而食物链顶端的造雨者英伟达,走得比所有人都要激进。

英伟达团队清楚现实的门槛:二手市场淘延长线耗时费力,很多人的居所也没有多余的地下室去承受两万美元的电路改造。

在德国柏林 IFA 大展上,英伟达正式向全球抛出了一个免费开源的核弹级软件工具,PAIR(Personal AI Router,个人 AI 路由器)。

▲ 英伟达推出 PAIR,试图把每个人家中的闲置 PC 盘活成去中心化分布式算力

PAIR 的野心极其毒辣:

它彻底打破了“单台电脑必须插满显卡”的固有认知。只要通过本地网络,PAIR 就能像神经中枢一样,把你书房里吃灰的 Windows 旧台式机、老婆手里的轻薄笔记本、客厅那台带 M4 芯片的 Mac mini,甚至工作用的移动工作站,全都在软件层面严丝合缝地编织成一个去中心化的微型算力网络!

它的核心逻辑在于任务级流水线调度,避开了强行拆解千亿参数超大模型的显存困境:

轻量级的文本整理交给 Mac mini,重度代码生成分发给装有 GeForce 显卡的旧台式机,图像渲染丢给工作站。

不用交月租、不用把任何一行私人代码传到公有云、更不需要忍受单机集中散热的火烤。

如果说 Gary Flake 和 Tobi Lütke 代表的是拥有重资产壁垒的“地下军阀”,那么英伟达 PAIR 则吹响了平民级算力自给自足的号角。

04终极博弈:当最懂云的先知,决定做回“数字自耕农”

行文至此,一个最根本、也最令人深思的哲学命题浮出水面:

为什么偏偏是 Gary Flake?

翻开他的生平履历,你会发现一串堪称神话的脚印:马里兰大学计算机博士、Overture 首席科学家、雅虎研究院掌舵人、微软技术院士与 Live Labs 缔造者。退隐后创办的剪藏神器 Clipboard 被 Salesforce 天价收购,随后出任 Salesforce 搜索首席技术官。

▲ 前微软 Live Labs 负责人、分布式与机器学习先驱 Gary Flake

▲ 2023 年,Flake 出任脑机接口先锋企业 EMOTIV 的 CTO

他是这个星球上最早参与奠定现代搜索引擎、分布式计算与商业云架构的教父级人物之一。在这个世界上,几乎没有人比他更透彻地理解公有云的运转体系。

2023 年,Flake 出任全球知名脑机接口公司 EMOTIV 的首席技术官。他所面对的,是整个人类历史上最私密、最敏锐,同时也是最不可逆的数字资产,大脑的脑电波(EEG)数据。

每一段神经电位波动,记录的都是一个人最隐秘的情绪起伏、睡眠节律、注意力变迁与认知隐私。

把你自己的脑电数据上传给公有云?

把未来专属于你个人思维习惯的神经模型,寄生在别人的服务器集群上?

这早已超越了单纯的成本计算,关乎控制权与数字主权的归属。

自建多卡主机的隐形成本,Flake 当然心知肚明:没有质保的二手硬件随时可能烧毁、显存硅脂会在持续高温下迅速硬化脱水、某天半夜驱动冲突宕机你得亲自拎着螺丝刀爬下地下室排查……

但这一切麻烦,在“彻底拥有”面前都变得微不足道。

在现代互联网的进化史上,我们曾经一次次被兜售轻资产的迷魂药:

  • 90 年代,人们把 MP3 刻进光盘、把电影存在自己的机械硬盘里;后来流媒体巨头告诉我们:“不要拥有物理介质,在线听歌多轻便。”,直到有一天,你收藏的专辑因为版权到期悄然灰掉。
  • 10 年代,企业把自建服务器统统砸掉,全盘迁往公有云;厂商信誓旦旦地承诺弹性与自由,直到有一天,接口费用毫无征兆地上调、账号因为一条莫须有的风控策略被瞬间封禁、你的核心业务在巨头宕机时陷入彻底瘫痪。

公有云编织了一座无比舒适的“赛博温室”。但在温室的最底层,每一位开发者、每一个创业者,本质上不过是在给云巨头打工的“数字佃农”。

你按月上交昂贵的租金,租用看不见摸不着的虚空算力;你的数据在别人的管道里流淌;你的生死取决于巨头的 API 何时断流。

而今天,从华盛顿州贝尔维尤的杂乱地下室,到多伦多豪宅泛着粉光的玻璃酒窖;从 7 块轰鸣狂啸的旧 GPU,到把闲置电脑串成算力网的开源极客……

这群站在技术最前沿的先知们,用极其粗暴但无比决绝的方式,完成了一场悲壮而坚定的“赛博赎身”:

纵使机箱粗糙、改造散热比电脑还贵,还要忍受机房级风扇的日夜尖啸,

当那张承载着灵魂模型的权重文件,完整落盘在自己脚下的固态硬盘里时;

在属于自己的屋檐下,算力的水龙头,才始终牢牢握在自己手中。

相关学习资料