乐于分享
好东西不私藏

部署本地 AI 助手:能干活的AI

部署本地 AI 助手:能干活的AI

⏱️ 阅读时间:约 15 分钟 🎯 本节你将学会:Agent 到底是个啥、两个主流工具选哪个、装好一个能聊天的本地 AI 助手


没有 Agent(本地 AI 助手)时

你有没有这种经历:复制一段文字贴给 AI → 让它总结 → 再复制下一段 → 再总结……

手断了吧。

我之前更离谱,翻译一个英文项目(13 章),逐一复制粘贴给 AI 翻译,自己在精校检查,相当繁琐。

之前那种"复制粘贴"的方法,搞完一份都要半个小时起,这么多内容单调又重复。

Agent 的思路完全不同:我告诉它”把这个仓库逐章节的翻译成中文,然后进行检验、检查“。

它自己规划步骤、自己调工具读文件、自己写代码处理资料。我泡杯咖啡回来,翻译结果已经躺在那了。

这就是 Agent——不是"你问一句它答一句"的工具,而是你给个目标,它自己想办法完成的智能助手

对话式 AI(你之前用的)
Agent(智能体)
比喻
一个搜索框
一个你带出来的实习生
你做什么
输入问题,等回复
告诉它目标,它自己完成
AI 做什么
回答你的问题
自己规划步骤、调用工具、执行任务
什么时候用
问问题、写文案、改代码
自动处理复杂任务、定时干活

对话式 AI 适合"我问你答"。Agent 适合"需要 AI 自己想办法的任务"——就像我刚才说的逐章翻译项目。


两个主流选择

现在本地 Agent 圈子最火的两个:OpenClaw 和 Hermes Agent

对比项
OpenClaw
Hermes Agent
安装难度
⭐⭐ 要装 Node.js,多一步
⭐ 一句命令,装上就能聊
聊天渠道
飞书、WhatsApp、Telegram、Discord、iMessage…
飞书、微信、Telegram、Discord、Slack、WhatsApp…
定时任务
很稳,适合"每天固定时间干活"
够用,基本的定时都能做
模型支持
Claude、GPT、DeepSeek、Ollama 都行
OpenRouter、Ollama,也很全
隐私
纯本地,数据不出本机
纯本地,零遥测

万一表里有看不懂的词:

  • 零遥测 = 软件不会偷偷往外发你的数据,你用啥它都不知道

选哪个?

你的情况
推荐
你在国内,主要用飞书/钉钉聊天
👉 OpenClaw(中文社区版支持得最好)
你想 5 分钟就跑通,零折腾
👉 Hermes Agent(一句命令装完就能聊)
你需要每天定时帮你干活
👉 OpenClaw(定时调度很稳)
你完全不想碰命令行
👉 Hermes Agent(安装最快,失败率最低)

新手推荐:先装 Hermes Agent。安装最快,上手最无脑。


安装 Hermes Agent(Windows 版)

下面会用到"PowerShell"——就是 Windows 上那个蓝窗口。在开始菜单搜"PowerShell",右键选"以管理员身份运行"。之后的所有命令,都在里面敲。

一步到位

powershell -c "irm https://raw.githubusercontent.com/NousResearch/hermes-agent/main/scripts/install.ps1 | iex"

脚本自动装 Python、uv 和依赖,大概 3-5 分钟。

⚠️ GitHub 访问不了? 用社区加速脚本:

powershell -c "irm https://res1.hermesagent.org.cn/install.ps1 | iex"

装完关掉 PowerShell 重新打开(让系统认出新装的命令),然后配模型:

hermes setup

选模型提供商时选 Ollama,填:

  • 模型名qwen3:8b 或你之前下载的模型
  • Ollama 地址:默认 http://localhost:11434

测试显示"连接成功"就配好了。

开聊:

hermes

💡 Windows 上如果遇到防火墙提示,点"允许访问"就行。


安装 OpenClaw(Mac 版)

下面会用到"终端"——就是 Mac 上一个黑窗口,在「启动台」→「其他」→「终端」能打开。之后的所有命令,都是在终端里敲。

先看装没装 Node.js(一个运行环境,装 OpenClaw 需要它):

node --version

如果它提示"command not found",说明没装,跑这行(brew 是 Mac 上的安装工具,没有的话先去 brew.sh 装一个):

brew install node@22

然后一行搞定:

curl -fsSL https://clawd.org.cn/install.sh | bash

国内网络不好?加个镜像参数:

curl -fsSL https://clawd.org.cn/install.sh | bash -s -- --registry https://registry.npmmirror.com

⚠️ 中文社区版装完命令是 openclaw-cn,国际版是 openclaw。后面我都写 openclaw,你如果是中文版就把 openclaw 换成 openclaw-cn

装完初始化:

openclaw onboard

跟着向导走,它问两件事:

  1. 模型 API Key——我用 DeepSeek,你也可以用本地 Ollama。选本地路线的话,选 OpenAI-compatible 提供商,填:
    • Base URLhttp://localhost:11434/v1(Ollama 默认地址)
    • API Key:随便填,比如 ollama(Ollama 不需要认证)
    • 模型名qwen3:4b(推荐)或你之前下载好的其他模型
  2. 聊天渠道——先选 WebChat(浏览器就能聊),后面再配飞书/Telegram

💡 记不清之前装过哪些模型?跑 ollama list 看一眼。后面想换模型,在控制面板的"模型设置"里改就行。

启动:

openclaw gateway --port 18789

浏览器打开 http://localhost:18789,看到控制面板就成了。

💡 启动后 OpenClaw 会生成 ~/.openclaw/workspace/AGENTS.md,那是它的"人设文件",挺有意思的,可以去翻翻。


安装 Hermes Agent(Mac 版)

一句命令:

curl -fsSL https://raw.githubusercontent.com/NousResearch/hermes-agent/main/scripts/install.sh | bashsource ~/.zshrc

source ~/.zshrc 是让终端重新加载配置,装完跑一下就行)

脚本自动装 Python、uv 和依赖,大概 2-3 分钟。

⚠️ GitHub 访问不了? 官方命令会卡在 git clone。换下面任意一个:

社区加速(推荐)

curl -fsSL https://res1.hermesagent.org.cn/install.sh | bashsource ~/.zshrc

来自 Hermes Agent 中文社区,内置国内镜像,约 60 秒。

ghfast 代理

curl -fsSL https://ghfast.top/https://raw.githubusercontent.com/NousResearch/hermes-agent/main/scripts/install.sh | bashsource ~/.zshrc

已有 uv 的话,直接装

uv tool install "hermes-agent[cron,cli,pty,mcp]" --python 3.11 --index-url https://pypi.tuna.tsinghua.edu.cn/simplesource ~/.zshrc

(每行末尾的 source ~/.zshrc 作用一样:让终端认出新装的命令)

配模型:

hermes setup

跟着选,关键是这一步:

选模型提供商时,想用本地模型就选 Ollama。然后填:

  • 模型名qwen3.5:9b 或你之前下载的模型名字 (该模型能力有限,模型6.6GB大小,确保8G内存的硬件也能运算,仅能处理文字、简单编程,如何硬件支持推荐使用更大参数模型)
  • Ollama 地址:默认 http://localhost:11434,不用改

选好之后测试一下,看到"连接成功"就说明配好了。

💡 后面想换模型,重新跑 hermes setup 或者在 ~/.hermes/config.yaml 里改 model 字段就行。

开聊:

hermes

终端直接对话,就这么简单。

💡 想要网页界面?hermes gateway start,浏览器访问显示的地址。


两个都装会冲突吗?

不会。它们各自用各自的目录:

  • OpenClaw:~/.openclaw/
  • Hermes Agent:~/.hermes/

我两个都装在同一台 Mac 上,OpenClaw 跑定时任务,Hermes 日常用。不冲突。


⚠️ 常见问题

问题
原因
解决
openclaw
 命令找不到
PATH 没更新
关掉终端重开,或 source ~/.zshrc
Hermes 装到一半卡住
网络问题
重跑安装命令,它会从断点继续
模型不回复
API Key 没配对
重新 openclaw onboard 或 hermes setup
启动提示端口被占用
18789 端口已被用
加 --port 18789 换一个端口
装完不知道下一步
没有配置聊天渠道
先配 WebChat,浏览器就能直接聊
OpenClaw 安装卡住
GitHub 或 npm 访问受限
用 --registry https://registry.npmmirror.com 镜像参数,或从 Gitee 源码构建
Hermes 安装卡在 git clone
GitHub 访问不了
改用国内社区脚本 https://res1.hermesagent.org.cn/install.sh 或 ghfast.top 代理

📦 本节成果

  • ✅ 你理解了 Agent 和普通对话式 AI 的区别
  • ✅ 你根据需求选好了 OpenClaw 或 Hermes Agent
  • ✅ 你完成了一个 Agent 的安装和初始化
  • ✅ 你连接了模型,Agent 已经能对话了
  • ✅ 你知道两个一起装也不会冲突

👉 下一步

Agent 装好了,它现在能和你聊天。但真正的威力是——让它自己干活,不用你守着

后面就做这件事:让 Agent 每天早上自动抓取 AI 新闻,整理好发给你。


一点个人感受

我的建议:先装 Hermes,15 分钟跑通,感受 Agent 到底是个什么感觉。 哪天觉得它不够用了,再加个 OpenClaw,两个一起用也不冲突。

花一下午装好、配好、跑通第一条自动任务——我保证你会觉得之前跟 AI 对话的方式弱爆了。