私有化客服:WhatsApp / 企业微信接入,本地 Qwen3 回答,客户数据不上云
工厂运维助手:设备告警推送到 Telegram,AI 自动解读日志、给出处置建议
7×24 无人值守 Agent:Cron 定时任务 + 工具链,自动巡检、报表、通知
开发 Copilot:TUI 或 Web UI 对话,代码生成、脚本调试、文档检索
典型架构
┌─────────────────────────────────────────────────────────┐│ RK3588 主控板 ││ ┌─────────────┐ ┌──────────────────────────────┐ ││ │ OpenClaw │───▶│ rkllm3-server :8080/v1 │ ││ │ Gateway │ │ (OpenAI Compatible API) │ ││ │ :18789 │ └──────────┬───────────────────┘ ││ └──────┬──────┘ │ ││ │ ┌───────────┴───────────┐ ││ ▼ ▼ ▼ ││ Telegram RK1828 #1 RK1828 #2 ││ wechat (NPU Session) (NPU Session) ││ Web UI Qwen3-4B-Instruct 并行 / 多模态 │└─────────────────────────────────────────────────────────┘
技术亮点
项目 | 能力 |
大模型 | Qwen3-4B-Instruct(RKNN 量化,16K 上下文) |
推理服务 | rkllm3-server,OpenAI API 兼容 |
OpenClaw 2026.2.x,Gateway + Control UI + TUI | |
算力 | 2× RK1828 M.2,RKNN3 Runtime,多 Session 并行 |
推理费用:¥0(无 API Key,无按量计费) | |
全链路本地,对话与文件不出设备 |
二:硬件准备

想体验的用户,直接用这块板子就可以了,固件把环境都布署好了
三:效果展示

因rkllm3 实际 context slot 只有 **2048 tokens** 实际效果不是很理想
还在改进中
四:适配过程
4-1):安装nodejs 22.x
curl -fsSL https://deb.nodesource.com/setup_22.x | sudo -E bash -apt install nodejs -ynpm install -g pnpm
4-2):下载openclaw源码并安装
git clone https://github.com/openclaw/openclaw.gitcd openclawpnpm installpnpm ui:buildpnpm build
4-3):配置(基本使用默认)
pnpm openclaw onboard --install-daemon4-4):修改配置文件
"agents": {"defaults": {"model": {"primary": "rkllm3/rknn"},
4-5):启动服务
pnpm openclaw gateway4-6):启动命令行交互
pnpm openclaw tui
夜雨聆风