昨晚折腾到半夜,我终于在服务器上跑通了私有化AI助手!全过程复盘+避坑指南
昨晚心血来潮,想在自家树莓派服务器上部署一个能用的私有AI助手,折腾到快1点,终于搞定了。从安装一堆报错到成功对话,踩了几个坑,也摸索出一些门道。这不是官方教程,就是一个技术爱好者的实战复盘,想着顺便分享给可能需要折腾的你。
我为什么想折腾这个?
就是觉得好玩,想有个完全在自己掌控下的AI助手,能跟我聊投资、看市场,甚至以后能接到微信上帮我自动回复消息(这个计划还远,但先搭架子)。说白了,就是想“玩”。
- 我的环境
:一台吃灰的 PVE 工控机,装的 Debian 13。什么显卡加速都没有,纯 CPU 顶着。 - 我的选择:选了国产的 GLM-4.7 大模型(智谱的),主要是API稳定,不用费劲本地部署大模型,对个人友好。
我是怎么一步步搞定的?
1. 装环境,开局就卡住
先老老实实更新系统,装了一堆基础依赖。到装 Node.js 都挺顺利的。
# 更新系统sudo apt update && sudo apt upgrade -y# 装点工具sudo apt install -y curl wget git vim# 装 Node.js 22curl -fsSL https://deb.nodesource.com/setup_22.x | sudo bash -sudo apt install -y nodejs# 验证一下node --version# v22.x.xnpm --version# 10.x.x
到这里心里还想:“嗯,不错,看来今晚能早点睡。”
2. 装 OpenClaw,网络给我上了一课
直接照着官方的来:
npm install -g openclaw@latest然后就……卡住了。进度条几乎不动,等了十几分钟,我知道,经典国内网络问题来了。果断换思路,改用国内社区版 openclaw-cn,先把 npm 源换成淘宝的:
# 换国内镜像源npm config set registry https://registry.npmmirror.com# 安装国内社区版npm install -g openclaw-cn@latest这次快多了!但出现了报错:File exists: /usr/bin/openclaw。意思是已经有文件冲突了?我猜可能是之前失败的安装残留。简单粗暴处理:# 删除冲突的文件sudo rm -f /usr/bin/openclaw# 强制安装npm install -g openclaw-cn@latest --force
搞定!版本是 0.2.0。此时心态:总算迈过第一个坎了。
3. 配置大模型(我选了 GLM)
这一步需要 API Key。我去智谱AI的开放平台申请了一个(免费的额度足够个人玩了)。
然后运行配置向导:
openclaw-cn onboard --auth-choice zai-api-key向导会一步步引导:
选择 zai提供商。把刚才申请的 API Key 贴进去。 我勾上了 session-memory钩子,让AI能记住对话上下文,不然它像个金鱼。最后一步是身份设定,也就是告诉 AI“我是谁,你是谁”。
我在脑海里构思了一下设定:“我叫uJarvis,你可以叫我J哥。我是金融科技民工,喜欢折腾工控机,也爱好投资。你是我的助手,就叫‘小U’吧,说话利索点,别啰嗦。”
配置完成后,系统在 ~/.openclaw-cn/ 下生成了一个 openclaw.json 配置文件。我瞄了一眼,核心就是告诉程序去哪里、用什么模型和我对话。
4. 启动!心跳时刻
输入启动命令:openclaw-cn gateway start然后赶紧查状态:openclaw-cn status看到服务状态是 Running,心里稳了一半。生成一个访问用的 Token:openclaw-cn token generate
然后我拿起手机,在浏览器里输入http://我的服务器IP:18789/?token=刚才生成的Token—— 页面加载出来了!一个简洁的聊天界面。我试着打了句“你好”,大概一两秒后,“小U”回了我一句问候。
那一刻,感觉像凌晨点火成功了一台小引擎,成就感拉满。
5. 跟AI做“自我介绍”
虽然能对话了,但AI还不知道我是谁。我在 Web UI 里认真打了一段话,算是初次“面试”:
我叫 Jarvis,你可以叫我J哥。我是一名技术爱好者。日常关注港股、A股 ETF 投资。希望你保持简洁、高效的回答风格。作为我的智能助手,你的名字叫“小U”,时区使用 UTC+8,默认语言为中文。
发出去后,AI 消化了一下,然后自动为我生成了 IDENTITY.md 和 USER.md 两个文件。这意味着以后每次对话,它都会记得这些基本设定,不用我再复述了。
接下来还想玩点啥?
- 加点技能:OpenClaw 可以挂载一些“技能”(Skills),比如查天气、搜新闻,推热点,我想试试给它扩展点能力。
- 调教:根据实际聊天感受,微调一下
模型参数和提示词,让它更“懂我”。
写在最后
昨晚大概花了1个多小时,大部分时间其实是在跟网络和报错斗智斗勇。但看到命令行里跑起服务、浏览器里弹出聊天窗的那一刻,真的觉得值了。现在,我拥有了一个完全私有、随我定制的 AI 伙伴,虽然它还很简单,但架子搭好了,剩下的就是慢慢“养”它。
如果你也有一台闲置的 软路由或者树莓派,想折腾点好玩的,那么照着这个流程走一遍,大概率也能成。这就是技术宅的快乐吧。
uJarvis
(一个爱折腾的金融科技民工)
2026年3月31日
夜雨聆风