乐于分享
好东西不私藏

近5亿元融资背后,聆思科技能否跨过端侧AI芯片的鸿沟?

近5亿元融资背后,聆思科技能否跨过端侧AI芯片的鸿沟?

【摘要】从语音交互芯片到端侧大模型芯片,聆思科技正在尝试完成一次转型升级。背靠科大讯飞产业积累,公司已经积累了超过1.5亿颗芯片出货经验,获得近5亿元融资,安徽省及合肥市多家国资平台联合领投。

但从“听懂指令”到“理解世界”,端侧AI芯片仍有一道难跨越的鸿沟。面对AI PC、智能座舱、机器人等新场景,聆思需要证明的不只是芯片性能,更是从技术路线到商业生态的迁移能力。

AI逐渐走向终端,谁能够在有限功耗、成本和功能中找到规模化落地路径,或将决定下一阶段端侧智能产业的竞争格局。

以下是正文:

01

1.5亿颗感知芯片的“基本盘”,是护城河还是路径依赖?

当AI开始从云端走向终端,芯片产业的竞争焦点也正在发生变化。

云端AI的能力无法简单的向手机、PC、汽车和机器人等设备侧迁移,但是这些已经融入社会生产和日常生活中的端侧或终端,又急需AI的本地化部署来进一步延续产品形态的未来寿命。反观端侧AI又需要在有限功耗、成本和空间约束下,让大模型真正进入终端。因此端侧AI的发展也正在成为更多企业和资本关注的焦点。

在端侧AI芯片赛道中,聆思的起点并不低。

公司脱胎于科大讯飞体系,早期聚焦智能语音和AIoT芯片,依托语音识别技术积累切入智能家居、智能音箱等场景。公司累计芯片出货量已超过1.5亿颗。

图源:聆思科技官网

回顾芯片企业的发展历程,大规模出货本身就是一道门槛。

芯片从实验室走向市场,需要经历芯片设计、流片验证、软件适配、供应链协同等多个环节。尤其是在家电、IoT等成本敏感场景中,产品价格、稳定性和交付能力往往比单一性能指标更加重要。

这部分积累,决定了聆思进军端侧大模型芯片的部分基础,但这还远远不够。

相似的产品终端形态的背后隐藏着巨大的鸿沟:过去服务的场景,和未来想进入的市场,并不完全相同。

在智能家居中,芯片更多只承担语音唤醒、语音交互等简单的线性任务;而AI PC、智能座舱、机器人等新场景,需要芯片支持更复杂的大模型推理能力,对算力、存储带宽、功耗控制以及软件生态提出了更高要求。

这些终端落地经验也只能证明聆思具备“把AI装进设备”的能力,但端侧大模型时代,它还需要进一步证明自己能够支撑“设备理解世界”。

这也是许多端侧AI芯片公司的共同挑战。

以智能手机为例,终端厂商正在积极探索本地大模型运行能力。高通推出面向终端生成式AI的骁龙平台,苹果也通过Apple Intelligence推动端侧模型应用落地。与此同时,PC和汽车厂商也在寻找更适合自身需求的AI计算方案。

面对这些成熟玩家,聆思的优势在于长期积累的多形态端侧产品经验,但新的竞争环境考验的是另一套能力:能否围绕大模型重新设计芯片,并建立开发者和终端厂商愿意采用的生态。

因此,1.5亿颗芯片既是一块重要的“敲门砖”,也意味着聆思需要跳出原有路径,寻找新的增长曲线。

02

Nebula芯片的“纸面性能”与端侧落地鸿沟

端侧AI芯片面临的挑战,并不只是提升算力,更在于如何在有限的空间、功耗和成本约束下,让AI能力真正进入终端。

但端侧AI的发展,并不只是把云端大模型简单搬到设备里。终端厂商真正关心的问题,是AI能力能否成为产品体验的一部分。

以手机、PC、汽车和机器人为例,端侧AI面对的是更加复杂的产品约束:既要满足实时响应和隐私安全需求,又要适应不同设备的成本和功耗限制。用户不会因为设备搭载了一颗更强的芯片而买单,真正影响产品价值的是AI功能能否自然融入使用场景。

这也给芯片设计带来了新的挑战。云端计算可以依靠大量GPU和高带宽存储堆叠性能,但终端设备没有足够的空间和电力条件。芯片企业需要在计算效率、存储访问、功耗控制和软件适配之间找到新的平衡。

因此,端侧AI芯片的竞争重点,也逐渐从单纯追求峰值算力,转向围绕终端需求重新定义计算架构。

此前,终端设备里的AI任务相对简单,芯片主要负责语音唤醒、人脸识别等轻量计算。随着大模型进入手机、PC、汽车和机器人,终端需要处理更复杂的任务,芯片面对的计算压力也随之提升。

一方面,模型越来越大,需要更强的计算能力支撑;另一方面,终端设备又无法像数据中心一样堆叠大量GPU。如何在“小空间”里实现高效率推理,成为端侧AI芯片竞争的关键。

面对新的端侧需求,仅依靠在传统架构上进行优化,往往难以同时满足大模型推理对计算效率、存储带宽和功耗控制的要求。因此,部分芯片企业开始尝试从架构层面重新设计。

聆思选择的路径,是围绕大模型计算特点重新定义芯片架构。

其Nebula系列芯片采用DSA(Domain Specific Architecture,特定领域架构),围绕大模型的数据流特点设计专用计算单元和算子指令集,减少通用架构下的计算冗余,提高芯片执行AI任务的效率。

图源:聆思科技官方账号

其中,一个重点突破方向是解决端侧AI长期存在的“内存墙”问题。

简单来说,AI计算不仅需要强大的“计算能力”,还需要快速地搬运数据。但随着模型规模不断扩大,影响芯片性能的瓶颈逐渐从计算能力转向数据传输效率,数据在存储和计算单元之间的搬运速度成为关键因素。

对此,聆思提出“AI 原生NPU+3D DRAM”的架构路线。采用3DDRAM晶圆堆叠+HybridBonding混合键合技术,从本质上把“仓库”搬到“工厂旁边”。过去计算单元和存储之间距离较远,大量时间消耗在数据搬运上;近存计算则希望让数据更快抵达计算单元,从而降低延迟和功耗。

目前,先进存储技术已经成为AI芯片竞争的重要方向。包括HBM在内的高带宽存储方案,正被广泛应用于云端AI计算领域。但手机、PC、机器人等端侧设备对成本和功耗更加敏感,高成本、高功耗的HBM方案未必适用,如何找到性能与成本之间的平衡,也成为端侧芯片的重要课题。

根据聆思公开信息,Nebula芯片目标实现70%80%区间的算力利用率,并达到最高10倍加速效果。同时,公司规划该芯片于2027年推出样片,并希望在5W-15W功耗范围内实现100 tokens/s级别的大模型推理速度。

但技术路线越超前,也意味着更大的不确定性。践行者与开拓者之间的身份转变,从一开始就决定了有大量的矛盾需要解决。

首先,芯片研发周期与大模型演进速度之间存在错配矛盾。

一颗芯片从架构设计到流片验证再到生态的适配,必然会经历较长周期,而大模型算法仍处于快速变化阶段。聆思选择提前押注未来端侧模型需求,实际上是在进行一次“对算法前置发展趋势”的研判:未来几年的AI模型是否会沿着当前方向发展?是否还会有新的模型路径诞生?新的模型架构是否会削弱专用芯片的优势?

其次,实验室指标距离终端体验仍有一道鸿沟。

端侧设备不像数据中心拥有充足电力和散热条件。5W-15W功耗限制下,芯片不仅需要跑得快,还需要稳定运行,并适配不同终端产品的成本和设计要求。100 tokens/s的目标,最终仍需要在真实应用场景中接受检验。

此外,芯片竞争也不仅是硬件竞争。

对于AI PC、机器人等新兴市场,终端厂商需要的不只是一颗性能领先的芯片,还包括成熟的软件工具链、模型适配能力以及开发生态。

因此,Nebula芯片最终需要验证的,不是我能否做出这颗芯片。而是这套架构能否适应快速变化的AI产业,并在真实应用中形成稳定价值。

03

从四大场景到真实订单,聆思如何跨过端侧AI芯片的商业化门槛?

AI芯片企业推出性能领先的产品只是第一步,更大的挑战在于获得终端厂商认可,并实现规模化出货。

端侧芯片的竞争逻辑,与云端计算存在明显差异。数据中心芯片追求极致算力,客户相对集中;而端侧芯片需要进入大量终端产品,在有限空间里同时满足性能、功耗、成本和开发周期要求。

这背后对应的是终端厂商的现实需求:AI功能需要提升用户体验,但又不能显著推高产品成本。

一颗芯片既要“足够强”,也要“足够便宜、足够容易用”。形成了“又要马儿跑,又要马儿不吃草,又要马儿千里马”的经典问题。

这也是为什么端侧AI芯片常被认为是一场“小而美”的竞争。终端设备内部空间有限,留给芯片的资源并不充裕,但它又需要支持越来越复杂的AI能力。

图源:聆思科技官方账号

在这一背景下,聆思押注的四大方向——AI PC及办公硬件、智能座舱、具身智能机器人、智慧家庭,分别对应不同阶段的市场机会。

其中,AI PC被认为是端侧大模型较早落地的场景之一。

随着生成式AI进入个人终端,PC厂商希望通过本地运行模型实现智能助手、内容生成等功能。相比云端调用,本地AI能够降低延迟,并增强数据隐私保护。但这一市场竞争已经快速升温。英特尔、高通、AMD等芯片厂商均已推出面向AI PC的相关平台,终端厂商在选择供应商时,除了关注算力表现,也会考察软件生态、开发支持和长期兼容能力。

智能座舱则提供了更高价值的应用空间。

汽车正在成为新的智能终端,语音交互、多模态助手等功能都需要更强的本地计算能力。不过,汽车产业链验证周期较长,车规认证、供应链合作等环节都会提高芯片企业进入门槛。

具身智能机器人则代表了未来增长方向。

机器人需要同时处理视觉感知、语言理解和运动控制,对端侧推理能力提出更高要求。但目前机器人产业仍处于早期阶段,应用规模和商业模式尚未完全成熟,芯片需求仍需要时间释放。

相比之下,智慧家庭是聆思更熟悉的领域。

从智能音箱到智能家电,早期AIoT业务积累也让聆思更接近终端需求。这也是聆思区别于纯算力芯片创业公司的地方:它已经参与过终端产品落地。但与此同时,智慧家庭市场长期存在价格敏感、产品碎片化等特点,如何提升芯片价值量,也是企业需要解决的问题。

四大场景为聆思提供了市场想象空间,但最终仍需要通过可持续的商业模式完成验证。

近期,安徽省及合肥市多家国资平台入局,也体现了地方产业生态对AI芯片赛道的关注。近年来,合肥持续布局集成电路、人工智能等产业,希望通过资本和产业资源推动相关企业发展。

但资本投入最终仍需要市场订单验证。

端侧AI芯片的竞争,最终考验的是综合能力。芯片性能只是基础,模型适配、开发工具链、供应链协同以及终端厂商合作关系,同样决定产品能否真正落地。

超过1.5亿颗芯片出货,证明聆思具备进入终端市场的能力;Nebula芯片则代表公司向更高价值计算场景发起探索。

接下来,它需要证明的,是能否从一家AI芯片供应商,成长为端侧智能生态中的关键参与者。

04

芯流视角:端侧AI芯片的终局,是生态竞争

从语音芯片到端侧大模型芯片,聆思正在尝试完成一次能力跃迁。

过去的1.5亿颗芯片出货,证明了其具备将AI能力装进终端的经验;Nebula芯片,则代表公司向更高价值计算场景发起探索。但从技术路线走向商业落地,中间仍隔着一道生态鸿沟。

端侧AI芯片的竞争,并不只是算力之争。相比云端数据中心,终端设备面临更严格的功耗、成本和空间限制,芯片企业需要同时解决性能、软件适配、开发效率和供应链协同等问题。

接下来,聆思需要解决的问题,是如何把芯片能力转化为终端厂商愿意采用的产品方案,再进一步形成可持续的生态影响力。

AI正在加速进入PC、汽车、机器人等终端设备,但市场最终留下的玩家,或许并非单纯拥有最高性能芯片的企业,而是能够连接模型、芯片和应用场景的生态型公司。

从“听懂指令”到“理解世界”,聆思正在迈出关键一步,但这场端侧AI芯片竞争,才刚刚开始。

*头图由AI生成

- XINLIU -