ARTICLE · 1308998
RK3588开发本地LLM的AI桌面机器人硬件方案,可支持主板定制
关注我们
了解更多行业优质资讯
点击蓝字
关注我们
了解更多行业优质资讯
点击蓝字
目前市场上的AI桌面机器人，包括情感对话型、办公辅助型、学习辅导型机器人等等。桌面机器人的功能主要聚焦在AI对话、带屏幕表情功能或触摸屏功能、带摄像头人脸识别等。高端一些的还具备本地离线智能问答的功能，这类与依赖云端API的普通智能音箱不同，本地大模型AI桌面机器人可以在嵌入式主板上运行LLM、ASR、TTS及CV视觉算法等，实现本地语音问答、人脸识别、或者物体检测等智能交互。
定昌AI桌面机器人硬件方案
本地大模型AI桌面机器人，主控需要具备一定的AI算力和接口扩展能力。建议可以采用RK3588主控的核心板+底板（可参考DC_M588，可定制），6TOPS AI算力NPU，算力不足可以加上RK1828算力棒能跑9B参数量的本地大语言模型，以及多路CV视觉分析等，能面向本地大模型推理的AI桌面机器人硬件平台。
一
整体硬件方案
”
AI桌面机器人主要由主控计算平台、语音交互模块、视觉感知模块、表情显示模块等组成，部分有动作控制模块。RK3588本身具备MIPI CSI、MIPI DSI、PDM、I2S、UART、I2C、SPI、PWM、GPIO等接口，可以覆盖外设硬件连接需求，主要包括摄像头、LCD屏、触摸、麦克风功放、MCU以及等，硬件架构可以分为以下几个部分：
01
主控计算
RK3588八核64位处理器，集成6TOPS NPU，负责机器人应用程序、AI算法和多任务调度。
02
语音交互
通过麦克风接口及外置音频采集模块实现语音输入，结合本地ASR、LLM和TTS完成语音对话。可加上波束成形（Beamforming）技术增强用户说话方向的声音。
03
视觉感知
通过MIPI CSI/CAM/USB接口接入摄像头，部署人脸检测、人体识别、物体检测等视觉算法。建议选500万～800万像素的自动对焦MIPI摄像头。
04
显示交互
通过MIPI DSI或HDMI连接LCD屏幕，显示机器人表情、对话内容和状态动画。建议使用3.5～5英寸LCD屏，采用MIPI DSI接口，搭配电容触摸屏。
05
动作功能
另外对于有动作运动的功能，建议采用RK3588 + STM32/MCU + 舵机的架构，主控通过UART、GPIO、PWM等接口连接外部MCU及舵机，实现转头、点头等动作。
二
本地大模型部署
”
本地大模型对话是中高端的AI桌面机器人的核心功能之一，端侧部署能实现本地离线交互。RK3588集成6TOPS NPU，能通过RKNN、RKLLM等工具链部署适配的视觉模型和轻量化大语言模型。
大模型上建议先部署3B级左右量化模型，验证本地推理速度、内存占用和稳定性，再测试更大的7B级模型，板子内存要16GB 以上，7B/9B大参数规模模型建议可以加RK1828算力棒拓展系统算力，获取更快的问答速度和更智能问答等，加算力棒性能差别还是挺大的（如下表是RK3588,RK1828算力模组跑部分语言大模型的参数性能）。在实际应用中，需要根据模型规模、量化精度、内存容量和推理速度进行选型。
模型类别 | 模型名称 | 总参数量 | 量化方式 | RK3588(8GB SoC) | RK1828(协处理器5GB) |
峰值内存|性能 | 峰值内存|性能 | ||||
LLM文本 | Qwen3-0.6B | 0.6B | W4A16 | ~1.2GB | ~1.1GB |
18-22 token/s | 160-210 token/s | ||||
LLM文本 | Qwen3-1.7B | 1.7B | W4A16 | ~2.6GB | ~2.2GB |
10-14 token/s | 95-105 token/s | ||||
LLM文本 | Qwen2.5-3B | 3B | W4A16 | ~4.0GB | ~2.4GB |
6-9 token/s | 88-102 token/s | ||||
LLM文本 | Qwen3-4B | 4B | W4A16 | ~4.9GB | ~3.4GB |
5-7 token/s | 60-70 token/s | ||||
LLM文本 | Qwen2.5-7B | 7B | W4A16 | ~7.2GB | ~4.6GB |
2.8-3.5 token/s | 55-70 token/s | ||||
LLM文本 | Qwen3-7B | 7B | W4A16 | ~7.4GB2.5-3.2 token/s | ~4.8GB |
50-65 token/s | |||||
多模态VLM | Qwen3.5-4B-VLM | 4B | W4A16(视觉FP16) | ~5.6GB | ~4.1GB |
4-6 token/s | 42-50 token/s | ||||
多模态VLM | Qwen3.5-9B-VLM | 9B | W4A16(视觉FP16) | OOM(8G板) | ~4.9-5.2GB |
30-36 token/s |
目前定昌电子已支持多种语音对话及多模态大模型的部署示例，SDK等，包括：
Qwen系列： Qwen2-1.5B、Qwen3-0.6B、Qwen3-1.7B、Qwen3-4B等。
Phi系列： Phi-3-3.8B及其他Phi模型。
Gemma系列： Gemma2-2B、Gemma3等。
视觉语言模型： Qwen2-VL-2B、Qwen2.5-VL-3B-Instruct、MiniCPM-V等。
其他模型： MiniCPM3-4B、InternLM2-1.8B、ChatGLM3-6B、DeepSeek-R1-Distill、Llama3-8B等。
三
RK182X算力棒扩展
”
除了需要运行更大参数量的模型，同时处理语音、视觉等多个AI任务，可进一步扩展RK182X算力模组。定昌电子的核心板加底板的适合AI桌面机器人算力板硬件方案DC_M588支持通过2个M.2接口接入双RK182X算力卡，单块算力模组提供约20TOPS算力。
双卡扩展后，结合RK3588自身6TOPS NPU，平台综合算力最高可达46TOPS，并且支持双卡级联，即双卡并发跑一个大模型，目前已实测流程部署运行 Qwen3.5-9B，Decode约30 tok/s ，在常见的文字问答交互中，比较流畅地快速输出答案，Prefill约117.4 tok/s在交互式生成场景中也具备较好的实时性。
当然接双卡还有价值在于实现不同AI任务的独立部署。例如，将语音对话大模型部署在一块RK1828算力卡上，AI视觉语言模型部署在另一块算力卡上，RK3588负责系统。
四
机器人接口配置
”
根据上述的硬件架构，AI桌面机器人涉及摄像头、LCD、音频和机械动作等多种硬件，定昌的DC_M588硬件方案提供了较完整的外围扩展资源：
1. 摄像头接口
支持双MIPI CSI及CAM1/CAM2接口，最多接入4路摄像头，支持最高4K@60FPS规格的摄像头接入能力。还可以通过外挂转接板扩展8路AHD 1080P摄像头，适用于多路视频采集和CV视觉分析。
2. 显示接口
支持HDMI 4K、VGA 1080P及双路MIPI DSI高清显示接口，可根据机器人外观设计选择小尺寸LCD屏幕，实现表情动画、文字显示和触摸交互。
3. 音频接口
提供麦克风输入、耳机音频输出及双声道功放接口，支持8Ω、10W双扬声器。结合外置麦克风阵列和音频处理模块，可以进一步实现多通道拾音、回声消除和语音播报。
4. 动作控制接口
提供TTL、RS232、RS485、CAN、GPIO等接口，连STM32等外部MCU，通过PWM控制舵机，做动作。
此外，这块底板还提供多路USB2.0、USB3.0、Type-C、双千兆网口、SATA3.0及PCIe3.0×2等扩展资源，方便增加无线通信、存储和其他外设。
五
主板定制开发
”
除了标准开发板，DC_M588硬件方案采用核心板与扩展底板分离的开源设计方式，支持二次开发，可提供SDK、PCB原理图、交叉编译工具链、Docker NPU SDK及VMware开发环境等配套资源，方便客户进行硬件修改、系统适配和应用开发。有研发能力也可以选核心板自己参考设计底板，我们也支持定制底板。
系统方面，支持Android、Debian、Ubuntu 20.04/22.04及国产麒麟等嵌入式系统，可根据机器人产品需求进行系统裁剪、驱动适配和软件功能定制。如果后面想要桌面机器人具备更复杂运动能力，可以引入ROS2，主板目前也适配了ROS2，提供固件。
定昌电子DC_M588不仅适用于AI桌面机器人，还可以扩展至AI陪伴终端、智能教育机器人、边缘AI计算设备、智能NVR/XVR及多模态交互终端等产品。有问题欢迎私信或者到官网咨询详细方案。
六
关于定昌电子
”
定昌电子专注于嵌入式解决方案的研发与加工制造17年，目前AI算力板已成功应用于智能医疗设备、工业控制系统、商业显示设备、智能安防系统等多个领域，积累了丰富的实战经验。定昌拥有完整研发团队、先进生产设备和品质管控体系，目前在广州和湖南有超30000平的研发生产基地，十多条线SMT贴片线和插件线配置 290多 个员工，整条生产链路的人员配置也健全，分工非常明细：人事、跟单、 送货员、 企划、 仓库、 BOM 整理技术员，采购、IPQC，QC，QA、测试，工程师等，每条线都制定了严格的管控流程，配备完整的先进口生产测试设备仪器。
往/期/回/顾
