ARTICLE · 1295911
端侧,AI的下一个浪潮——端侧行业研究报告(附下载)
当前算力主要部署在云侧，我们认为端侧不仅能成为云侧的入口，更能够提供隐私保护、即时响应、低成本、以及主动响应的差异化价值，从而有望成为AI 的下一个浪潮。从场景上看，端侧AI 不仅仅能够应用在如手机、PC、眼镜等大的消费终端，端侧AI 的价值更在于多个碎片化场景的渗透，这体现在端侧AI会赋能传统成熟产品的升级，同时端侧AI 也会带动全新终端的诞生，最后，从落地上看，成熟产品的升级迭代落地更快，目前已能看到部分产品开始放量，而全新AI 的终端需要更长的开发周期，需要将模型、场景与算力深度融合，围绕用户核心痛点，打造系统级能力，端侧AI 从“通用能力”到“行业价值”的最后一公里仍需模型厂与终端相互协同，也会在未来逐步落地，我们认为这些碎片化场景的逐步渗透是国内相关龙头公司业绩能够持续快速增长的核心原因之一。
一、价值：入口、主动响应、隐私、低延时与成本
当前的算力部署主要集中在云端，但云端集中式推理模型在大规模应用中遭遇结构性瓶颈，端侧 AI 的兴 起是确定性趋势。随着大模型从“尝鲜式应用”走向“生产级部署”，推理调用量、上下文长度、智能体工具调用次 数和多模态数据处理需求同步上升，纯云端方案正在同时面临成本、时延、隐私合规和服务稳定性四类约束， 而这些约束不能简单地依靠继续增加云端算力供给加以根本化解。云端模型无法突破物理时延边界与敏感数据 监管要求，弱网、断网场景下也无法继续应用，而调用量爆发使云端推理经济上持续承压，企业高度担忧云端 AI 成本，云端 AI也无法为用户提供主动响应、个性化服务。因此，端侧智能的兴起成为解决云端约束的必然 结果。 端侧AI通过本地化部署，可覆盖隐私保护、即时响应等多项需求。云端推理的体验瓶颈并不只来自模型生 成速度，也来自“终端采集—网络传输—云端排队—模型推理—结果回传—终端执行”的完整链路。对于普通文 本问答而言，数百毫秒到数秒的响应延迟仍可被用户容忍；但对于语音助手、实时翻译、图像理解、AR 交互、 智能座舱、工业控制和自动驾驶等场景，延迟会直接影响交互流畅度、任务连续性乃至安全边界，例如自动驾 驶场景通常要求10~50毫秒级响应，以保障安全导航；又例如工业机器人、自动化产线等场景百毫秒级延迟足 以导致任务中断、执行偏差或安全风险。而端侧模型可以将响应从“等待云端返回”转变为“本地即时处理”，从而 显著改善交互体验。同时，在弱网或无网环境下，端侧AI可提供稳定性服务，可靠性相比云端更强，适配场景 更加多元。 在隐私方面，通过在本地完成语音识别、图像理解、行为识别、个性化推荐和初步推理，终端可以在“不上 传原始数据”或“仅上传脱敏结果”的前提下提供智能服务。对于金融风控、医疗辅助、企业办公、智能座舱和个 人助理等场景，端侧处理能够显著减少敏感数据离开设备或组织边界的次数，具备较强的隐私保护价值。 相比云端，端侧AI在高频使用场景下具有成本优势。云端AI主要按Token/API计费，初始成本低但是边 际推理成本较高，长期成本随API调用频率线性上升，而在长上下文、多轮对话、多工具调用和多智能体协同 时，单纯任务的Token 消耗可能成倍放大。而端侧 AI采用硬件成本模式，即一次性买断，后续推理在本地完 成，边际成本几乎只有电费与折旧，无需付出API调用费用，长期成本基本确定。因此，在数据处理需求高或 推理请求量大等的高频任务场景，如果不刚需云端大模型的超大规模能力，选用端侧AI方案在长期成本上具有 优势。 端侧AI也可作为AI进入物理世界的神经末梢，提供低成本硬件AI Agent的实现路径。AI的趋势不再只 是电脑和手机上的大模型，而是让家电、穿戴等小设备自带感知与交互。因此，AI下沉至端侧的低成本路径可 以是在端侧部署轻量AI模型，端侧主要负责感知、唤醒、第一层判断，把需要深度思考的任务脱敏后交给云端 大模型，实现“端—云”协同，既保持端侧AI的低时延、高隐私特点，也充分利用云端大模型的高算力 端侧AI可以通过深度学习、感知本地数据，提供个性化体验以及主动式服务。端侧AI通过分析本地数据， 在设备端动态更新知识库与服务策略，实现基于本地数据的深度个性化适配。一方面，端侧AI依托本地部署、 低延迟的优势深度挖掘实时交互数据，精准匹配场景核心需求；另一方面，端侧AI深度融合多维度实时数据， 拓宽个性化服务的覆盖边界与体验深度，推动服务逻辑从“被动响应”升级为“主动预判”。云端AI无法获取、分 析用户全面的本地数据，在实现“主动式AI”、深度理解用户需求方面，端侧AI具备独特的优势。
端侧大模型可通过精细化分层架构设计，实现端云融合互补。面对实际应用场景，端侧与云端模型并非二 选一，更优解是将任务分层，达成“端-边-云”三级资源的动态优化配置与高效调度，一方面对任务智能分流实现 全域计算协同，不同类型任务分别交给不同层级处理，云端负责处理复杂计算及大数据存储，边缘层完成本地 实时分析和无线带宽连接，终端层涵盖个人设备与行业终端，完成对物理世界的感知、控制与本地推理，充分 利用端侧的响应速度与边云的算力优势；另一方面实现多设备智能互动，弥补单一终端算力、感知局限，各设 备功能优势互补。
二、场景：AI赋能千行百业，AIoT多彩缤纷
端侧AI不仅仅能够应用在如手机、PC、眼镜等大的消费终端，端侧AI的价值更在于多个碎片化场景的渗 透。一方面，端侧AI会赋能传统成熟产品的升级，例如智能家居、清洁类机器人、大屏等，这些成熟产品将从 过去的自动化、数字化向智能化、AI化过渡升级，端侧AI 在这些场景的落地也会更快，目前已能看到部分产 品开始放量；另一方面，端侧AI也会带动全新终端的诞生，例如各类AI BOX、服务型机器人、AI NAS、工业 质检等，而全新AI终端需要更长的开发周期，需要将模型、场景与算力深度融合，围绕用户核心痛点，打造系 统级能力，同样会在未来逐步落地；最后，伴随Personal Agent的发展成熟、Muse Gadgets 等开源硬件开发工具 包的推出，端侧AI有望成为云侧AI的物理载体，较低成本的外设类硬件有望快速爆发。本篇报告我们更加聚 焦于端侧AI在AIoT中的应用，我们认为这些碎片化场景的逐步渗透是国内相关龙头公司业绩能够持续快速增 长的核心原因之一。
2.1 Personal Agent 的硬件载体
Personal Agent 全球火爆，全面覆盖工作与生活。Meta与OpenAI相继布局Personal Agent，AI产品由单次 对话或任务转向长期陪伴服务用户。Personal Agent Muse于2026年9月8日推出，用户仅需下达目标，Muse 即 可根据用户需求分析生成任务流程，可智能完成预定行程、在线购物、收发邮件等日常事务和项目，并且用户 关闭应用后仍可在云端继续执行。根据 Apptopia 统计，Muse 上线 12 天累计下载约 280 万次，同期 ChatGPT 是 130 万、Claude 约 40 万，Muse 上线 12 天内在美加移动端下载量已超 ChatGPT 同期水平，并登顶App Store 榜首。同月29日，OpenAI推出 Dots，同样主打全天候为用户推进工作、分担重要任务，由GPT-6 Astra驱 动，能从反馈中学习，实现逐渐了解用户偏好与优先级，在执行任务之外参与“发现任务”环节。同时OpenAI 打造专家型Dot，可在组织和公司内承担专门职责。国内多家厂商跟进Personal Agent，例如阿里千问助手升级 为千问GO，具备购物、出行、物流、编程等数十个领域的个人办事能力。
端侧能够赋能Personal Agent体验升级，成为其重要的硬件载体。从留存率方面来看，在美国市场，Muse 7 天后的留存率为 30%，这一指标与 ChatGPT 上线初期相当，然而 14 天后的留存率为 23%，这一指标低于ChatGPT 同期数据，这说明纯云侧的个人助理在用户体验上依旧有欠缺，例如用户仍需较长时间与AI交互，并 且部分关键网页也可能关闭接口权限，部分用户也会担心隐私问题，同时从商业化上来看，Agent所消耗的Token 可能更高，然而与AI Coding场景不同，Personal Agent场景用户对于性价比的要求较为极致，若无法为用户提 供足够好体验的服务，用户的付费意愿也较低，因此用户体验十分影响Personal Agent的商业化和后续发展。然 而硬件载体的出现能够较好提升用户体验，与云侧AI相互补充，一方面终端硬件通常配有麦克风、摄像头等各 类传感器，使得AI在终端设备上的实时响应和“主动感知”成为可能，AI从单纯被动式响应升级为“主动预判”， 另一方面，在终端部署的端侧小模型主要负责感知、唤醒、第一层判断，之后再将更复杂的推理任务交给云侧， 减少部分云侧的推理压力。此外，从争夺流量入口的角度来看，各大模型厂商也需积极布局消费硬件赛道。 OpenAI 加速布局AI硬件产品，实现 “模型+终端”的硬件闭环。OpenAI在2025年5月宣布以约65亿美 元收购由苹果前首席设计师Jony Ive创立的AI硬件公司IO，同时多位来自苹果的供应链、产品设计、制造、 人工智能研究等人才加入，在产品设计理念上，设计团队希望创造一种“始终陪伴、几乎隐形”的 AI 伴侣，强 调语音交互和情境感知，颠覆传统的屏幕依赖模式，在具体产品形态上，OpenAI正在考虑的产品可能包括类似 没有屏幕的智能音箱，智能眼镜、数字录音设备以及可穿戴AI Pin等多个方向。 OpenAI 消费级硬件即将面世，背靠ChatGPT推出全新物理载体。彭博社爆料，OpenAI与Jony Ive 合作 的首款硬件产品即将面世，产品外形像甜甜圈、体积与冰球相仿。这款AI终端目标成为“以AI为核心的便携 计算机”，没有屏幕、有麦克风，主要通过语音交互，可能配置摄像头帮助产品进行环境感知，配合指示灯可 完成交互提示，主体与充电底座分离便于携带。这一物理终端背靠OpenAI的 ChatGPT Live，模型能力全球领 先，支持语音、图像多模态交互，推动智能设备向理解、决策、执行进化。OpenAI首批产品计划于 2026 年底 或 2027 年初发布，我们也期待OpenAI等头部大模型公司的入局能够打造新的AI终端。 Muse 开源硬件开发工具Muse Gadgets 项目，打通从虚拟助手走向真实环境的链路。Meta选择软件与硬件 解耦，将硬件载体的定制权完全让渡给第三方设备与开源社区。Meta依托Personal AI Agent—Muse建立云端智 能与连接服务，而Muse Gadgets 则给它增加了硬件接口，开发者可利用现成的单板计算机、微控制器与显示屏 幕组合出适用的物理形态，模块化开源生态赋予云侧AI的物理外设无限可能。
2.2 机器人：多形态机器人量产落地，数采市场有望快速兴起
此报告完整内容与行业资料合集，可扫码进入星球社群查看
（本文仅供参考，不代表我们的任何投资建议。如需使用相关信息，请参阅报告原文。）
