夜雨聆风学习资料网

ARTICLE · 1285384

你的AI每次从零开始:搭个记得住你的本地助手

你的AI每次从零开始:搭个记得住你的本地助手

QUOTE

区别不在模型聪不聪明,在于一个用完即忘,一个越用越懂你。

周五晚上十点,老陈在地铁上点开 ChatGPT,第 8 次敲下同一套背景:后端用 Axum(Rust 的一个 Web 框架),代码部署在那台 Debian 服务器上,跑 Docker 千万别加 sudo。

提交信息按约定式提交写,测试要先在本地跑过……这些话,他这周已经交代了 8 遍。

每开一个新对话,对面那个聪明大脑就重新变回陌生人。项目路径、代码规范、踩过的坑、个人偏好,全部清零。

他的同事只在 Telegram(海外常用的一款聊天软件)里发了句“按老规矩发版”,自己服务器上的智能体已经开始拉分支、跑测试了。

区别不在模型聪不聪明,在于一个用完即忘,一个越用越懂你。

本文看点

01

记忆为什么是磁盘文件

02

三家能力逐项对照

03

五步上手与成本坑

01

WHAT IT IS

Hermes Agent 是什么

Hermes Agent 是 Nous Research(开源 Hermes 系列大模型背后的实验室)出品的开源个人智能体,MIT 协议(最宽松的开源许可之一,可自由使用和修改)。

2026 年爆火,截至 10 月 31 日 GitHub 星标约 25.9 万,最新正式版 v0.22.5,10 月 22 日发布。

它不是绑在编辑器里的编程助手,也不是套了壳的聊天网页,而是一个跑在你自己机器上的常驻进程:笔记本、家里的 Mac mini、一台 5 美元/月的 VPS(虚拟专用服务器)都行。

你从 Telegram、飞书、Slack 或命令行跟它说话,它在你的机器上读文件、跑命令、改代码。

和网页版 AI 相比,差异集中在三件事:记忆存在哪、经验能不能自己攒、数据归谁。

02

MEMORY

记忆是你磁盘上的文件

Hermes 的持久记忆(跨对话保留信息的能力)落在两个明文文件里:

MEMORY.md

它的工作笔记,存环境事实、项目约定、踩过的坑,上限 2200 字符

USER.md

你的画像,存你的角色、偏好、沟通雷区,上限 1375 字符

每次新开对话,这两个文件会自动注入系统提示词(模型开场就能读到的背景设定)。它天生知道你是谁、项目在哪、上次的教训是什么。

你随时可以用 cat ~/.hermes/memories/MEMORY.md 亲眼看它记了什么,写错了能改,也能 git 备份。

第二件事叫 learning loop(自我改进闭环):干完一个复杂任务,后台会自动回放整段对话,把反复纠正过的流程压缩成一条记忆,或直接写成一个“技能”(一个叫 SKILL.md 的说明书文件)。

下次遇到同类任务零交代,技能还会在使用中继续修订。你也可以直接命令它:/learn 把我刚部署预发服务器的流程做成技能。

第三件事:记忆、会话、技能全部在 ~/.hermes/ 目录下。接本地模型时,数据不出机器。

03

SIDE BY SIDE

三家能力对照(建议截图保存)

跨对话记忆

ChatGPT 网页版

有,但官方明确不保留每场对话的每个细节,记什么由平台决定

Claude 网页版

有,2026 年已面向免费用户开放

Hermes(自托管)

有,且记忆是你磁盘上的文件,可查看、可逐条审批、可备份

经验沉淀

ChatGPT 网页版

无自动沉淀,自定义助手需手工配置

Claude 网页版

有 Skills,属平台体系

Hermes(自托管)

干完活自动写成技能,兼容 agentskills.io 开放标准,技能是本地 markdown,可版本管理、可自建源分享

数据归属

ChatGPT 网页版

云端

Claude 网页版

云端

Hermes(自托管)

本地优先,接本地模型时数据不出机器,MIT 开源可审计

触达方式

ChatGPT 网页版

自家网页和 App

Claude 网页版

自家网页和 App

Hermes(自托管)

一个网关接 21+ 平台:Telegram、飞书、企微、微信、Slack、邮件

常驻与定时

ChatGPT 网页版

不支持

Claude 网页版

有限支持

Hermes(自托管)

网关 7×24 常驻,内置定时任务,结果直接推到手机

操作你的系统

ChatGPT 网页版

沙箱内有限操作

Claude 网页版

连接器内有限操作

Hermes(自托管)

直接在你的机器、Docker、SSH 上跑命令,危险命令在聊天里回复 yes/no 才放行

安全审批

ChatGPT 网页版

平台统一管理

Claude 网页版

平台统一管理

Hermes(自托管)

记忆写入、技能改动都可设为人工审批后才生效,按项目做 profile 隔离

团队复用

ChatGPT 网页版

难分享

Claude 网页版

难分享

Hermes(自托管)

技能是目录里的 markdown,可自建 GitHub 源一键分发给同事,可版本管理

模型选择

ChatGPT 网页版

仅 OpenAI 模型

Claude 网页版

仅 Anthropic 模型

Hermes(自托管)

30+ 供应商任意换,含纯本地,一行命令切换

价格

ChatGPT 网页版

免费档 / Plus 20 美元/月

Claude 网页版

免费档 / Pro 20 美元/月

Hermes(自托管)

软件免费(MIT),成本只有你选的模型,本地 0 元起

需要公平地说一句:ChatGPT 和 Claude 的网页版 2026 年都有记忆功能,差别不在“有没有”。

真正的差异在记忆归谁、你能不能看能不能搬,以及它会不会自己把经验攒成可复用的流程。

04

GET STARTED

今天就能做的上手路径

环境:macOS 或 Linux(Windows 用 WSL2)。你不用提前装 Python 或 Node,官方一键脚本会通过内置包管理器自动备好 Python 3.14、Node.js、ripgrep 等运行时。

本机已有 Python 3.11+ 或 Node 18+ 也不冲突,你只需要 curl 和 git。

1

终端跑一键安装:

...shell

curl -fsSL https://hermes-agent.nousresearch.com/install.sh | bash

2

重载 shell(bash 用户换成 ~/.bashrc):

...shell

source ~/.zshrc

3

选模型:hermes model,交互向导里登录 Nous Portal 最省事,也可选 OpenRouter、OpenAI、Anthropic

4

开聊:hermes

5

验证记忆:先让它“总结当前目录在做什么”,再开新会话问“我在做什么项目”,看它答不答得上来

一个硬前提:所用模型的上下文窗口(模型一次能处理的文本长度)必须不小于 64,000 tokens,选模型时先确认这项。

想在手机上随时找它,装完后跑 hermes gateway setup,按向导接 Telegram:找 @BotFather 建机器人拿 token,再 hermes gateway start。

token 填进 ~/.hermes/.env。

务必在配置里写 TELEGRAM_ALLOWED_USERS 白名单,只允许你本人指挥它。否则任何能给机器人发消息的人,都可能让它在你机器上跑命令。

05

COST & PITFALLS

成本与两个坑

预算为零有一条官方路径:用 Ollama(本地大模型运行工具)跑本地模型,API 费用 0 元。官方当前推荐 gemma4:31b,模型约 20GB,推荐 32GB 以上内存,上下文要手动拉到 64K。

代价是纯 CPU 跑 31B 模型每秒只出 2–5 个 token(模型输出文字的计量单位),单条回复要等 30 秒以上;有 8GB 以上显存的显卡,体验才有质变。

用云 API 按用量付费,官方文档给的锚点是:一次重度编码会话大约 5–20 美元,而订阅制 Plus、Pro 都是 20 美元/月。

轻量尝鲜可以先选便宜模型按量付费,轻度使用通常远低于订阅费。

NOTE

两个坑:bot token 和 API key 只放进 ~/.hermes/.env,别提交进 git;近期流行的 sub2api(把订阅账号转成 API 多人共用)违反 OpenAI 和 Anthropic 的服务条款,有封号风险,别走。

06

THE MATH

这笔账值不值

官方没有发布“省几小时”的对照实验,能算的是你自己的账:每开一个新会话重新交代背景,保守按 3–5 分钟、一天 3 次、一周 5 个工作日算,是 45–75 分钟。

这两个记忆文件每轮自动注入,等于背景只说一遍。

另一个极端样本来自官方自述:Hermes Agent 用 1393 个 subagent(主任务拆出的并行执行单元,即子智能体)、约 19 个活跃工时重构了自己的代码库,模型花费约 19300 美元。

同等工作量的人工估算为 15 万至 180 万美元。这是孤证,当个量级参考就好。

∞

THE NEXT STEP

下一步

明天就能试的最小动作:今晚装好 CLI,花 5 分钟让它总结一遍你手头的项目,然后开新会话考它。

它答得出“我在做什么项目”,你就有了一个记得住你的助手;答不出,先查模型上下文是否到了 64K。

如果你也是那种每个新对话都要重新自我介绍一遍的人,这篇就是写给你的。上面的对照表值得截图存手机,也值得转发给群里那个总在问“你用的什么 AI 工具”的朋友。

关注金句先生,个人开发者和小团队用得上的 AI 工具实测与落地路径,我们持续写。

END

我是金句先生,持续分享个人开发者和小团队用得上的 AI 工具实测与落地路径。

如果你觉得今天这篇有收获,欢迎点赞、在看、转发三连,我们下篇见。

回首页,搜索你想要的文档

在首页搜索框输入关键词,快速定位资料

文库首页搜索指引 立即搜索

相关学习资料