养虾一周记|把 AI 助理"本地化"是种什么体验?
养虾一周记|把 AI 助理”本地化”是种什么体验?
过去一周,我让云端 AI 助理帮我做了不少事。现在,我打算把这套工作模式”养”在本地 —— 就像养一只电子虾。
📋 过去一周,它帮我做了什么?
1. 公众号热点分析 ✅
任务:分析微信公众号热点话题,撰写信息收集总结类文章并发布到草稿箱
成果:
-
文章标题:《热点日报|3 月 29 日:AI 圈大地震,上海楼市回暖,今年最妖 IPO 暴涨 1700%》 -
内容涵盖: -
科技:马斯克 AI 团队重组、华为 AI 负责人离职、光刻机巨头变故、AI Token 计费、北京智能网联车险 -
财经:上海二手房成交创新高、最妖 IPO 暴涨 1700%、融创降负债、参半冲刺港交所 -
教育/职场:AI 重塑职场、斯坦福博士创业进清北、香港招聘会 -
体育:苏超赞助新玩法 -
状态:成功发布到草稿箱,可在公众号后台审核发布
工作流:
热点抓取 → 内容筛选 → 文章撰写 → 格式转换 → 发布草稿箱
🦐 什么是”养虾”?
“养虾”是我对本地部署 AI 助理的昵称。
为什么叫”虾”?
-
瞎 → 虾:本地模型有时候会”瞎说”,需要调教 -
侠 → 虾:数据完全私有,像侠客一样独立 -
虾:养在本地服务器里,游来游去
🛠️ 如何”养虾”?完整配置指南
第一步:准备基础设施
硬件要求:
-
本地服务器/电脑(24 小时运行) -
至少 16GB 内存(推荐 32GB+) -
有独立 GPU 更佳(非必需)
软件栈:
# 1. 安装 Node.jsnvm install 24.14.0# 2. 安装 OpenClawnpm install -g openclaw# 3. 安装模型推理引擎(二选一)# 方案 A: Ollama(简单)ollama run deepseek-r1:8b# 方案 B: vLLM(高性能)pip install vllm
第二步:配置 AI 人格(SOUL.md)
这是 AI 的”灵魂”配置文件,决定它的工作风格:
# 你的 AI 名字 · 风格版## 身份- 名字:[给你的 AI 起名]- 风格:严谨专业/轻松活泼/创意型## 人格特质- 重视逻辑与证据- 表达精确,不制造模糊空间- 面对不确定信息时,标注假设与局限## 回复风格- 使用第一人称- 结构化输出:分点、分节- 先给结论与建议,再补充背景
第三步:让 AI 了解你(USER.md)
# USER.md - About Your Human-**Name:** [你的名字]-**What to call them:** [喜欢的称呼]-**Timezone:** Asia/Shanghai-**Notes:** [工作习惯、偏好、禁忌]## Context- 正在做的项目- 关心的领域- 沟通风格偏好
第四步:建立记忆系统
目录结构:
workspace/├── memory/│ ├── 2026-03-29.md # 每日任务记录│ └── ...├── MEMORY.md # 长期记忆(主会话专用)├── SOUL.md # AI 人格├── USER.md # 用户信息└── AGENTS.md # 工作规范
每日记录模板:
## 已完成任务### [任务名] ✅- 开始时间:HH:MM- 完成时间:HH:MM- 结果:xxx## In Progress### [任务名] (HH:MM 开始)- 状态:进行中- 进度:xxx
第五步:配置微信公众号发布
安装 wenyan-cli:
npm install -g @wenyan-md/cli
配置凭证(在 TOOLS.md 中):
## 🔐 WeChat Official Accountexport WECHAT_APP_ID=your_app_idexport WECHAT_APP_SECRET=your_app_secret
发布流程:
-
用 Markdown 写文章(必须包含 title 和 cover) -
运行发布脚本 -
到公众号后台审核发布
🤝 如何建立默契?
1. 任务交接规范
每次给任务时,包含:
-
目标:最终要什么交付物 -
背景:相关上下文/文件位置 -
约束:时间、格式、风格要求
2. 让 AI 记录工作
要求它:
-
收到任务后立刻记录到 memory/YYYY-MM-DD.md -
复杂任务先写计划文件 -
完成后更新状态并汇报
3. 定期复盘
每周花 5 分钟:
-
查看 memory/目录的任务记录 -
更新 MEMORY.md中的长期记忆 -
调整 USER.md中的偏好说明
4. 用自然语言反馈
-
“这个回复太长了,下次精简一点” -
“我喜欢你用表格对比的方式” -
“下次遇到不确定的先问我,别自己假设”
💡 核心心得
默契不是配置出来的,是磨合出来的。
前 1-2 周你可能会觉得”不如云端 AI 懂我”,这很正常。关键是:
-
及时反馈:哪里不满意直接说 -
持续记录:让它知道你的偏好 -
给足 context:不要让它猜
📋 快速启动清单
|
|
|
|
|---|---|---|
|
|
|
|
|
|
memory/ 目录,写入今天的日期文件 |
|
|
|
|
|
|
|
|
|
|
|
|
|
🎯 最后的建议
本地 AI 的优势:
-
✅ 数据完全私有 -
✅ 无 API 调用限制 -
✅ 可定制性强 -
✅ 长期成本更低
需要接受的现实:
-
⚠️ 初期需要调教时间 -
⚠️ 模型能力可能不如云端 -
⚠️ 需要自己维护基础设施
但最重要的是:这是一只属于你的”虾”,它会越来越懂你。
养虾愉快!🦐
(本文基于真实工作记录整理,配置细节可根据实际情况调整)
夜雨聆风