人形机器人执行“去厨房倒杯水”的任务包含两个层次:第一层是理解与推理——理解指令含义,定位厨房、杯子、水龙头,规划动作序列;第二层是实时控制——精准抓取杯子,调节拧开水龙头的力度,保持身体平衡。第一层允许较慢的响应但要求智能,第二层需要毫秒级感知与反应。这两个需求对应机器人AI系统中的核心架构选择:云端部署与端侧部署。
一、端侧部署:低延迟但算力受限
端侧部署将AI模型运行在机器人自身的计算板卡上,例如Jetson AGX Orin或Jetson Thor。端侧的最大优势是响应速度快。数据无需传输至云端,本地处理并直接输出动作指令,端到端延迟可控制在几十毫秒甚至更低。对于运动控制、避障、抓取等实时性要求高的任务,端侧几乎是唯一选项。
另一个优势是不依赖网络。工厂车间、矿井地下、野外环境等场所常无稳定网络连接,若大脑置于云端,断网即导致系统瘫痪。
端侧的短板在于算力与内存有限。以Jetson Thor为例,其128GB内存、2070 TFLOPS算力可运行数十亿参数的模型,但无法支撑千亿参数级别的大语言模型。端侧擅长快速反应,不擅长深度思考。
二、云端部署:算力充裕但延迟高
云端部署将AI模型运行于远端GPU服务器集群,机器人通过网络上传传感器数据,云端完成推理后返回结果。优势在于算力几乎无限,可配置A100、H100、B200等多卡集群,千亿参数大模型可顺畅运行,复杂逻辑推理、多轮对话、长期任务规划均可实现。
问题在于延迟。数据上行、模型推理、结果下行一个来回通常需要几百毫秒到几秒。聊天机器人场景下等待一秒可接受,但对于高速移动或精细操作的物理机器人,几百毫秒延迟可能导致碰撞或误操作。另一个隐性成本是带宽与费用。多路高清摄像头与激光雷达的原始数据每秒可达数百MB,全部实时传输至云端在多数场景下不经济也不现实。
三、端云协同:快慢脑主流架构
端侧擅长快速反应,云端擅长深度思考,两者结合的方案称为“快慢脑”系统或端云协同架构。
快脑运行在端侧,负责高频、低延迟的感知与控制:看见障碍物立即避让,手指触碰物体即时调整力度,脚踩不平地面迅速保持平衡。这些任务需10至50毫秒级响应,必须在本地完成。
慢脑运行在云端,负责低频、高智能的推理与规划:理解自然语言指令,将“去厨房倒杯水”拆解为子任务序列,在多方案间决策,从失败中总结经验。这些任务允许几百毫秒至几秒的延迟,但需要强大的推理能力。
类比而言:快脑相当于运动员的小脑与脊髓反射,负责身体协调;慢脑相当于大脑前额叶皮层,负责思考与决策。机器人同样需要这种分工。
四、VLA与VLM:快慢脑的模型实现
在具体模型架构上,快慢脑对应当前两类主流模型。
VLA(Vision-Language-Action)模型是快脑的典型实现。它接收视觉输入与语言指令,直接输出机器人的动作序列。模型相对轻量,推理频率高(通常需达到10Hz以上),部署于端侧芯片。代表性模型包括Physical Intelligence的pi0、NVIDIA的GR00T、Google DeepMind的RT-2以及自变量机器人的WALL-A等。
VLM(Vision-Language Model)或更大的基础模型充当慢脑。它负责高层次场景理解、任务推理与长期规划,参数量通常在百亿至千亿级别,部署于云端。Google的Gemini Robotics是此类架构的典型代表:云端运行基于Gemini的VLA Backbone负责理解与规划,端侧运行轻量Action Decoder负责实时动作生成。
两个“脑子”之间通过任务指令通信:慢脑将高层决策翻译为快脑可理解的子目标,快脑执行并将状态反馈回去。通信频率较低(通常几秒一次),对网络要求不苛刻。
五、部署方案的选择原则
端云架构的选择取决于具体场景,不存在标准答案,但有以下原则可供参考。
纯端侧方案适用于对延迟极度敏感、网络条件差、任务相对固定的场景,例如工厂中的焊接机器人、仓库中的搬运AGV。
纯云端方案适用于对实时性要求不高、主要依赖语言交互的场景,例如客服机器人、远程巡检机器人。
端云协同的快慢脑架构适用于大多数需要“既能动手又能动脑”的通用机器人,尤其是人形机器人与家庭服务机器人。这也是当前行业的主流方向。
随着端侧芯片性能提升、端侧模型能力增强,端与云的分界线会持续模糊。未来端侧本地智能可能逐渐替代当前的云端大脑架构,使每个机器人拥有完整的独立智能。

夜雨聆风