上篇我们说,今天是云端的绝对主场:训练一个前沿大模型要上亿美元、万卡集群,只有数据中心装得下。但结尾留了个问题——AI 的主任务正在从"学习"(训练)变成"工作"(推理),而"工作"这件事,不一定非在数据中心里干。
今天聊算力"搬家"的两个去处:边缘,和端侧。
边缘:最容易被低估的一层
边缘,是部署在"网络边缘"、靠近数据产生地的计算节点。它不是一个设备,而是一类站点:基站旁的 MEC 服务器、工厂车间的工控机柜、商场弱电间里的 AI 盒子。
它和端的区别在于归属:端侧算力是"你自己的设备里的算力",边缘算力是"离你很近的、别人的算力"。
为什么需要这一层?四个硬核理由。
第一是延迟。数据上云再回来,一个来回动辄几十上百毫秒。人对语音交互的忍耐上限不过几百毫秒,工业控制要几毫秒,自动驾驶是生死毫秒之间。
第二是带宽。一台智能工业设备每天产生超 10GB 的传感器数据。全传上云,带宽费会吞掉项目全部收益;在本地筛一遍,只把"值得上传的结论"送云端,才是经济的做法。
第三是隐私。工厂工艺数据、医院影像、家庭摄像头画面——有些数据根本"不能出厂区"。
第四是可靠性。矿井下、远洋货轮上、网络拥塞的演唱会现场,断网就停摆的系统不可接受。
这个市场有多大?据 GII 报告预测,全球边缘 AI 市场将从 2025 年的 304.5 亿美元,增长到 2030 年的 988.9 亿美元——五年三倍多。

端侧:AI 住进你的口袋
端侧 AI 离每个人更近:把模型直接装进你的手机、汽车、眼镜、耳机。
它为什么偏偏现在爆发?两个轮子同时转起来了。
第一个轮子:模型变小了。量化把模型压到四分之一大小而能力大体保留,蒸馏让大模型"带教"出小模型,DeepSeek 的出现更是直接拉低了大模型对芯片算力的开销。旗舰手机已经能本地流畅跑十亿参数级的大模型。
第二个轮子:芯片变强了。微软官方的 AI PC 标准,要求 NPU 算力不低于 40 TOPS;英伟达新发布的超级芯片,甚至能在个人电脑上本地运行 1200 亿参数的大模型。
说点实在的,你大概率已经在用端侧 AI 了,只是没意识到:打电话实时翻译、拍照一键消除路人、开会自动转写加摘要、人脸解锁。这些体验的共同点是三个字:快(不绕远路)、稳(不怕断网)、私(数据不出设备)。
而这只是开始。AI 眼镜 2025 年全球出货预计 510 万台,到 2030 年 3500 万台,年复合增速 47%;AI PC 的份额明年过半;你下一部手机,大概率自带端侧大模型。
这条链上挤满了人
边和端的玩家版图,比云端热闹得多:芯片层,边缘赛道上 32 家以上企业在角逐;端侧 SoC 是高通、苹果、联发科、海思的多方混战;车载层,还有一群做"智驾大脑"和"机器人新大脑"的。
我把边缘和端的玩家各画了一张四层全景图——谁做芯片、谁做设备、谁运营节点、谁做生态,一层层排开。
这两张全景图,加上篇的云端产业链全景,以及这个系列的完整版(共 10 张图),都在知识星球「Microtalk谈芯室」。

下篇回答最实际的问题:算力下沉的时候,谁先受益?
夜雨聆风