【端侧AI助手】端云协同:任务路由与分工验证

前文用“调大声音”“再大一点”说明本地 Agent 的执行与上下文。继续处理“查找这部电影的预告片，播放并调小声音”，还需要外部信息、步骤编排和设备状态。

端云协同有三个难点：依据端侧上下文决策路由，以统一软件协议维持端云一致，在准确率与成本之间确定分工比例。 上下文决定任务如何理解，一致性约束任务如何执行，质量与成本决定哪些任务值得留端。

场景示意｜家庭影音助手。AI 生成，非产品实测。

1. 技术趋势：能力边界与协同分工

终端受内存、带宽、功耗和散热约束；云端能够投入更多计算，支持更大的模型与更长的推理链路。量化、蒸馏和硬件加速持续扩大本地能力，端云模型也分别适配各自的资源预算。[2]

沿当前趋势判断，未来三到五年，消费级终端仍难以在既定成本和响应预算内稳定覆盖通用复杂需求。近期由端云协同补足能力，高频且验证充分的任务逐步迁移到本地。

能端则端，需云则云。 本地满足质量、时延与资源要求时优先留端；超出能力的步骤，经上传许可和云端可用性检查后上云。

2. 竞品分析：设计逻辑与产品逻辑

从执行权限、本地能力和服务交接三个方面分析公开方案。

讯飞：执行权限与业务数据接入

场景与机制。 灵机通过本地模型、安全沙箱和系统级权限控制接入文件、网络及外设。[3] 星光将教学需求转成支持手势交互的课件，并关联作业、课堂与家校记录辅助准备家访材料。[6]

讯飞 1024 现场原图｜60 / 30 / 10 为讯飞场景分工预估，口径见第 5 节。

设计启示。 模型规划需要连接受控工具和业务数据：执行器检查权限，数据接口提供可追溯的上下文。这种方式便于接入实际业务，接入成本主要在数据接口与权限治理；课件生成质量和终端交互时延分别验证。

阶跃星辰：感知与执行能力前移

场景与机制。 Step Edge 面向手机、车载等终端，将语音、屏幕理解、界面定位及工具调用放到本地，并用 NPU 引擎优化推理。官方采用简单任务本地响应、复杂推理与长链路任务上云的分工。[8][9]

阶跃星辰官方原图｜GUI 操作与生产力评测，官方自测口径。[8][9]

设计启示。 本地处理需要连贯的感知、理解和动作执行。它减少高频操作的网络等待，效果取决于设备适配和本地能力覆盖。验收同时检查元素定位、工具参数和任务完成率。

Apple：统一入口中的服务交接

场景与机制。 Apple 2024 年的食材问答演示中，Siri 经用户确认，将请求交给 ChatGPT，并在原会话呈现建议。[1]

Apple 官方演示｜食材需求 → 确认调用 ChatGPT → 返回建议。

设计启示。 外部调用需明确上下文范围与用户授权，将返回结果接回原会话。它扩展了回答能力，同时引入网络与服务等待，需要设置超时和失败反馈。

这些案例提供了权限治理、本地能力与服务交接的设计参考。落到设备助手，还需统一上下文和执行协议，并用同一任务集验证分工收益。

3. 决策路由：端侧上下文管理

全局上下文：维护、取用与回写

首轮方案把全局上下文管理器放在端侧基础服务层，供任务编排、路由和执行共用。它保存可追溯的会话实体、设备状态和任务进度，按用户、会话与任务隔离；云端使用经授权裁剪的任务快照。

例如，“再小一点”需要知道正在控制哪台设备、当前音量是多少、上一轮是否执行成功。管理器先关联对象，再刷新过期状态；对象仍不明确时追问，信息完整后再交给路由器选择路径。

版本按会话、任务和状态依赖管理。 云端基于影片 A 的快照查找预告片时，用户切换到影片 B，相关版本随之更新。A 的迟到计划校验失败，编排器重新规划；无关状态变化无需使整个任务失效。

摘要压缩不得丢失用户约束和未完成步骤，模型生成内容须保留来源与验证状态。所有写入经过管理器校验，路由器只读快照；编排器更新任务进度，执行器提交动作结果。

三条路径及其适用条件

规则、端侧模型和云端模型共用工具协议与执行器，按理解、规划能力和当前预算选路。

例如，“再小一点”先绑定设备并读取当前音量，计算固定目标值后执行；“找预告片并播放”在对象明确、工具完备时可由本地编排联网检索。跨来源比较超出本地能力时，再携带必要快照请求云端规划。

质量、时延与资源共同约束选路

路由器读取端侧快照，先检查对象、状态有效性、技能和上传权限，再预测各候选路径的成功率与资源消耗。RouteLLM 用回答偏好学习强弱模型的相对优势。[4] 设备助手则以对象、参数和最终状态标注任务结果，校准本地成功率；高风险动作单设门槛。

路由技术原理｜端侧上下文提供对象、状态与进度，路由器评估候选路径。虚线为离线校准反馈，每步选择一条路径。

时延估算覆盖排队、加载、推理及工具执行，云路径另计网络与服务等待。内存预算包含权重、KV Cache、工作区和业务预留，依据目标设备的冷启动、上下文长度与持续负载建档。

质量预测在校准集校准、独立集验收，记录“本地失败而云端成功”和“本地可完成却上云”两类误路由。前者损失质量或增加重试，后者增加调用成本；失败升级的策略需计入两段处理的时延与费用。

4. 端云一致：软件协议与状态

云端规划期间，用户可能切换影片、调整音量或取消任务。旧结果即使推理正确，也可能已经不适用于当前设备。软件设计需要统一任务语义、执行规则和状态反馈。端云可以采用不同模型与提示词；对象、单位、权限和成功判据遵循同一套定义，回答措辞可以不同。

上下文管理器保存权威记录，编排器负责推进任务状态。端云模型共用计划协议，候选结果经版本、权限和前置状态校验后执行，再将已确认结果写回上下文。

协同架构｜端侧全局上下文服务统一管理状态；路由读取任务快照，执行结果受控回写，云端接收必要上下文。

统一协议与提交规则

上下文管理器负责语义状态的交接；各模型独立维护 KV Cache。执行器在动作前复核相关设备状态，动作后回读结果，防止计划生成至执行之间的状态变化。

执行异常与恢复边界

版本检查、取消和步骤派发由同一端侧协调器串行处理。操作标识需贯穿执行器和工具后端；并发修改的设备状态需由后端条件执行或串行控制保护，后端不支持时应限制自动操作范围。

5. 端云比例：准确率与成本平衡

讯飞提出的 60% 纯端、30% 协同、10% 纯云是讯飞场景应用分工的预估。[7] 具体比例由业务构成、设备能力和路由策略共同决定。

先选策略，再统计比例

比例是路由策略在业务流量上的结果。首轮以质量达标后的成本最小化选择配置，同时约束时延、权限和设备资源。RouteLLM 与 Hybrid LLM 均研究了质量与调用成本的权衡，但其模型问答指标需替换为设备助手的任务判据。[4][5]

调用费用包含路由、上下文处理、云模型、远端工具及重试；本地推理失败后上云，两段消耗均记录。端侧算力、能耗与维护投入另列，跨机型比较时按约定折算，避免把本地处理视为零成本。

统一口径：每轮请求只计一次

以进入助手的用户轮次为分母，按理解、规划或生成任务的实际处理位置归类。失败、追问和取消均保留，结果另行标注。

路径按实际发起的理解、规划或生成处理归类，规则解析也计入端侧。收音、路由分类及工具执行位置另记，远端语音与检索单独统计。

加权估算：业务频次 × 路径占比

将独立回放得到的各类路径占比，按真实业务频次加权。准确率与平均调用成本使用同一组业务权重，避免用大量简单任务掩盖复杂任务退化；无业务日志时按不同任务构成分别估算。

比例推导｜质量与时延达标后比较成本，再按业务频次统计分工。表中为演算示例，非实测结果。

失败升级属于协同路径；预先安排的端云分步骤协作单独标记。模型、设备或业务构成变化后重新估算。

6. 实践验证：对照设计与验收标准

首轮实现范围

沿用前文的本地模型与播放器工具，覆盖音量、暂停、播放、内容查询，接入全局上下文管理器、任务编排器、路由器和云适配层。技能清单记录参数、前置状态、权限、超时及成功判据；音量以回读值验收，播放以状态与内容 ID 验收。

首轮采用能力规则与校准阈值，记录任务、步骤与操作 ID、上下文版本、路由原因、分段耗时及实际调用。学习型路由在积累成对任务结果后再评估。

测试集与对照方法

拟准备 1,200 条任务，校准与验收各 600 条，冻结配置后独立验收。

验证方案｜本地、云端、协同三组共用输入和执行器。样本规模与测试流程为首轮计划，尚未执行。

样本划分与成功判据

同一任务的改写与音频不跨集合。预先标注期望结果；重复运行不增加独立样本数。

对照配置与观测指标

三组共用设备、工具与执行器，固定模型、量化和网络档位；按任务类型分组报告成功、失败及超时。成本对照采用与准确率相同的业务权重，保留失败、取消与全部重试的费用。

首轮验收标准与交付物

以下为拟定目标，测试前按目标机型冻结。时延均从语音末帧起计。

质量差用同题成对结果计算，证据不足时按预定方案扩样；修改策略后更换独立验收集。时延注明成功样本范围，同时报告全部任务的限时成功率。

交付能力清单、路由配置、分场景报告与回放日志。验收通过后小范围上线，按业务频次复核分工比例，质量或时延退化时回滚。

7. 总结：路由、一致性与分工

能端则端，需云则云。 端侧管理上下文，为路由提供完整且有效的任务状态；统一软件协议与提交规则，使处理位置变化后执行语义仍然一致；在准确率和时延达标的条件下比较总调用成本，得到适合当前业务的端云比例。

参考资料

[1] Apple：Introducing Apple Intelligence，2024。官方产品原图与端云分工。

[2] Apple：Foundation Language Models Tech Report 2025。端侧与服务器模型。

[3] 麒麟软件：科大讯飞全新一代 AIPC 发布，2026-10-23。灵机 N9000 算力、系统与权限方案。

[4] RouteLLM，2025 版本。路由学习与阈值控制。

[5] Hybrid LLM，2024。图 1 与第 4.5 节，质量指标与阈值校准。

[6] 讯飞智慧教育：从讯飞星光看教育智能化的底座与实践，2026-10-23。课堂交互、家访准备与官方现场图片。

[7] IT之家：科大讯飞 1024 开发者节，2026-10-26。发布会分工展望的媒体报道，非公开测试报告。

[8] 阶跃星辰：Step Edge 端侧模型，2026-07-12。端侧任务与云端复杂任务的分工。

[9] 阶跃星辰：Step Edge 技术博客。本地感知、GUI 执行与推理引擎。