ARTICLE · 1094602
AI 的战场,正在换地方:下一站是端侧
前阵子参加一场行业大会,期间我参加了一场饭局。
其中一位是头部云厂商的 AI 专家,做的是大模型和 AI 基础设施。我这边是 AI 和 IoT 方向的产业投资。严格意义上来说,我们算是他们的客户。不过不是正式会议,没有 PPT,也没有对外口径,就是几个人坐下来吃饭聊天。
这种场合聊出来的东西,往往比发布会上的更有意思。
发布会讲的是已经确定的事。饭桌上讲的是还没确定、但已经在发生的事,又或者是对曾经发生过的事情做一些复盘。
坦白讲,整场下来,我基本就是在记录和点头,确实能插上话的地方不多。回来整理的时候发现,这些零散的话串起来,其实指向同一件事:AI 的战场,正在换地方。
下面我摘录几条,是我觉得有价值、可以分享的部分。为了避免误导,我会尽量写清楚哪些是他们的判断,哪些是我听完之后自己的理解。
一、明年,AI 要从"听得懂"变成"说得出"
先说模型层。
这两年我们习惯的 AI,是"多模态输入"。你能给它看图、说话、传文件,但它吐出来的还是文字。
他们的判断是,明年会翻过来。模型开始直接输出视频、语音,而且是实时的。
举个他们提到的例子。你戴着一副 AI 眼镜看一台需要维护的设备,它不只是告诉你"这是什么",而是直接在你的视野里标出拆解步骤,先拆哪里,再动哪个螺丝,边说边标。
这不是炫技,是交互成本结构变了。
支撑这件事的,是"全模态"架构的成熟。语音识别、语音合成、图像理解,过去是几套独立模型拼起来的,现在一套模型全干。他们的说法是,理论上所有跟语音相关的应用都能迁过去,成本会下去一大截。
同时还有一个变化容易被忽略:轻量版模型的能力这两年涨得很快,通用任务已经能接住,推理成本却在大幅下降。
我的判断:语音交互的商业化,过去一直卡在成本和延迟上。当"听懂"和"说出"变成一套模型的事,这个结基本就解开了。接下来一两年,这里应该会有一波机会。
二、AI 的最后一公里,在你家的弱电箱里
第二个判断,跟算力有关。
大模型这两年的叙事都在云端。谁的集群大,谁的卡多。但那晚聊得最多的,反而是端侧。
有一个数字我特意记下来了:100 亿参数左右的模型,在经济效益上是最优的。再往上,能力涨得慢,成本涨得快。而这个规模的模型,一张消费级显卡就能跑起来。
这意味着 AI 能力可以下沉到设备里。
他们提到一个我很喜欢的例子:家用 NAS。
很多人买 NAS 是为了存照片。但如果它上面跑一个小模型,就能自动给照片打标签、做分类,还能在本地跑一些私人助手的功能。数据不出家门,隐私和响应速度一起解决。
NAS 本来就是一台 24 小时开着、有存储也有算力的设备。它天然就是家庭的 AI 算力底座,只是过去没人这么用它。
关于专业模型,我们还探讨了一个更硬的场景。在一些相对封闭的垂直行业,数据根本不允许外流。怎么办?把开源模型量化、蒸馏,塞进本地服务器里跑。数据不出厂区,能力照用。
当然也不是所有东西都往端侧走。像云游戏那种实时渲染,算力还在往云端集中。
我的理解:端侧适配会是一个巨大的存量市场。
注意"存量"两个字。不是要再去卖多少全新高算力的设备,而是那些已经卖出去、已经在跑的芯片,怎么把模型高效地跑上去。
真正的瓶颈不在模型,有两个:一是模型到芯片的运行效率,二是垂直场景里的轻量化模型。
所以更准确的说法是:算力在分层,不是在搬家。
三、智能家居卡在连接层,不在 AI 层
这一段是我最熟悉的领域,也最想吐槽。
智能家居喊了这么多年,体验为什么还是上不去?
那晚聊下来,答案有点反直觉:不是 AI 不够聪明,是设备连不上。
现场有人提了个特别生活化的问题:我家的网关为什么老掉线?
原因很朴素。2.4G 频段干扰严重,ZigBee 穿墙衰减大。就这么简单。
几个主流协议的取舍,其实是一道没法全都要的选择题:
WiFi 稳定性相对好,但设备一多就互相干扰。ZigBee 能 Mesh 组网、功耗低,但穿墙能力有限。蓝牙的体验,在全屋智能里说实话最差。
那有没有稳定到极致的解法?有。有厂商做全屋智能走的是有线方案,稳定性确实没话说,但造价跟普通无线方案完全是几个量级的差距,更别提前装改造的成本。
这已经不是技术问题,是商业问题。
我的判断:智能家居的上限,短期看不取决于模型有多强,取决于连接有多稳。
AI 再聪明,设备掉线了也白搭。不管产品外观多好看、性价比多高,连不上就是连不上。
这个环节是所有做物联网的人都要过的坎。智能家居可以做什么,这些年下来已经相对清楚了。但怎么让这些产品稳定地在家庭里跑起来,还有蛮大的空间。
四、硬件不堆参数了,抢的是"任务总线"
这一段偏前瞻,但我认为是那晚最有分量的一句。
他们提到一个说法:随着模型能力溢出,硬件竞争不再是参数竞争,而是"谁能定义 AI 任务总线"。
什么意思?
过去卖硬件,比的是 CPU 多快、内存多大、摄像头多少像素。这些参数消费者看得懂,也愿意买单。
但如果 AI 成了设备的核心,参数就不重要了。重要的是:设备上跑的这些 AI 能力,听谁调度。
说白了,就是"AI 操作系统"之争。手机有 iOS 和安卓,未来的 AI 硬件也会有这么一层。谁掌握这一层,谁就掌握硬件之上的生态。
硬件层本身也在往这个方向走。国内已经有厂商在做存算一体的芯片,用 3D 堆叠和高带宽内存,专门解决大模型推理的带宽瓶颈。这是为 AI 重新设计硬件,而不是把 AI 塞进旧硬件。
我的判断:硬件公司最危险的想法,就是"我只要把算力堆上去"。
堆算力是代工厂的活。定义任务总线,才是品牌方的活。
五、最小可行规模,正在从一个团队缩到一个核
这一段跟组织有关。
我们在尝试一件事:组建一个纯 AI 驱动的小团队,5 个人。
不是"5 个人用 AI 提效",而是这 5 个人的工作方式,从一开始就是围绕 AI 设计的。写代码的活 AI 干,写内容的活 AI 干,人负责判断和把关。
其中一个细节我觉得特别有意思。我们搭了一套 Agent 的协作方式,用一个"项目经理 Agent"去盯下面一堆子 Agent 的进度。人则动态调整这些 Agent 的提示词,其中一个用途是——去 AI 味。
对,AI 生成的东西有股 AI 味,连我们自己都要专门想办法去掉。
但更触动我的,是另一句话。大公司在推 AI 变革时,最大的阻力往往不是技术,是组织。流程管控是一层,员工对岗位被替代的恐惧是另一层。
我的判断:这件事让我想到一个词,OPC,一人公司。
它的核心不是公司里只有一个人,而是用最少的人,把过去一个团队才能做的事做完。
几个人就能撑起一摊事,已经在被真实地验证。创业的"最小可行规模",正在从一支团队,缩小到一个很小的核。
六、真正的壁垒,是理解物理空间
最后一个技术判断:
聊到什么才算真正的智能体,他们举了个例子:一个 AI 看到洗衣机门没关,它能不能判断出为什么没关?
听起来简单,其实极难。
它要求的不只是图像识别——"门是开着的",而是空间理解和常识推理。是衣服卡住了,还是密封条变形了,还是里面有东西挡着。
我的判断:文字处理这件事,模型已经做得很好,而且会越来越同质化。你能写,别人也能写,这不是护城河。
能理解物理世界、能在真实空间里做判断,才是下一道门槛。
这也是我一直觉得 AI 在物联网领域最有想象力的原因。因为物联网设备,天生就长在物理世界里。
七、开源与封闭,两条路正在分岔
还有一个大判断,我觉得值得单独拿出来说。
他们的观察是,当前海外的 AI 生态在趋向封闭。有头部厂商开始限制思维链的输出,不再让用户看到模型是怎么想的。而国内的厂商,尤其是开源阵营,反而在放。
开源加蒸馏平台,让更多人和更多公司能用上、改得动。他们的原话我没记全,大意是这有点像"农村包围城市"。
我的判断:短期看,封闭能保住体验优势和技术神秘感。长期看,用的人多、改的人多,才会长出生态。
这不是情怀判断,是商业判断。生态这种东西,从来不是设计出来的,是长出来的。
顺带提一个他们聊到的灰色地带。有模型产品在模型层没做强安全对齐,只靠外部滤网拦截。短期确实能带来巨大的流量,但合规风险不小。
这种打法能不能持续,我不下结论。但它说明一件事:这一行的规则还没定,很多人在抢时间窗口。
我记下的三个机会
聊完技术,说点我自己的本行。
做投资的人听这些,脑子里转的是另一个问题:这些变化里,钱会往哪流?
我记下三条。
第一,端侧适配是存量市场,也是刚需。 前面说了,瓶颈在模型到芯片的运行效率。这件事没有标准答案,谁先做出通用方案,谁就卡住位置。
第二,芯片设计的 AI 化,比 PCB 设计更值钱。 现场聊到,已经有人在试着用大模型生成 RTL 数据,做芯片布局验证。EDA 软件的市场价值远高于 PCB 设计工具,如果 AI 在这一层跑通,商业价值不小。
第三,AI 的计费体系,现在还是一笔糊涂账。 他们说内部一直在争一个问题:AI 服务到底该按什么计价?有个提议是锚定"一核一小时"这种算力单位。但真正的难点在事后治理——你怎么界定一次调用消耗了多少资源,怎么跟客户说清楚。
这三条里我最看好第一条。因为它不是创造需求,是接住已经存在的需求。
饭局最后聊到一个有点远的话题:知识平权。
AI 正在消除两种差距。一种是信息差,过去我知道而你不知道的事。另一种是智力差,过去你想得清楚而我想不清楚的事。
这两道墙被推平之后,靠信息不对称收费的行业会先被冲击。律师、咨询、培训,这些赛道过去的核心价值,有相当一部分建立在"我懂你不懂"上面。
这个判断我不是第一次听到。但从一线技术团队嘴里说出来,分量不太一样。
回酒店的路上我一直在想一个问题。
这两年我们都在讨论 AI 能做什么。但那晚真正有价值的信息,不是"能做什么",而是"正在往哪走"。
从云端往端侧走,从文字往空间走。硬件不比参数了,改比谁能定义任务总线。团队也在变小,小到几个人就能成一摊事。
方向比速度重要。
尤其是对我们这些不在头部、但想在这波浪潮里做点事的人来说,看清方向,比跟上每一波热点要紧得多。
最后说明一句。以上观点来自一次非正式的私下交流,我做了脱敏处理,也不代表任何机构的官方立场。有些是对方的判断,有些是我自己的延伸思考,我在文中尽量做了区分。说得不对的地方,责任在我。
你所在的行业,AI 正在往哪个方向走?
评论区聊聊。我很好奇,不同行业的人看到的,是不是同一张地图。