ARTICLE · 1160605
我把 AI 助手搬回自己机器后,才想明白一件事

有个困扰我挺久的问题:我用了快两年的 AI 助手,它其实不认识我。
每次开新对话,我都得重新说一遍背景。上次聊到哪儿了、我喜欢什么风格的输出、我在做什么项目,一概不知。有些产品加了「记忆」功能,但那个记忆存在厂商的服务器上,我既看不见也带不走。换一家,一切归零。
这件事真正麻烦的地方不是效率,而是你根本没法在一个不认识你的助手身上积累任何东西。
所以我最近试了个思路完全相反的东西:Octop,一个装在自己电脑上的 AI 助手。用了几天,说点真实感受。
两种活法,差别不在功能
我把它和常见的云端助手列了个对比,发现差别根本不在「能不能干活」上:
~/.octop/ | ||
前四行你可能觉得「自托管项目都这样」。真正让我改观的是后两行,它把「选什么模型」和「装在哪」这两个决定权还给你了。
模型这块支持 OpenAI 兼容 API、DashScope(通义千问)、Ollama 等预设,按 Agent 单独配。也就是说你可以给「写代码的专家」配一个强模型,给「每天推送天气的定时任务」配个便宜的,互不干扰。
一次真实的折腾:让它早上给我推消息
我给自己设了个具体任务:每天早上 8 点,把当天日程和几篇关注的资讯整理好,推到我的飞书里。
在传统助手里这事基本没法做,它没有定时能力,更没有「主动找我」这个概念。Octop 里是这样走的。
装它只用一行脚本,用 uv 在 ~/.octop/venv 下准备 Python 3.12,不动系统 Python:
curl -fsSL https://finnie-1258344699.cos.ap-guangzhou.myqcloud.com/octop/install.sh | bash接着 octop init 建库建管理员,然后 octop run,打开 127.0.0.1:8088。
配通道这步稍微要点耐心。飞书要 App ID 和 App Secret,企业微信要 Corp ID 和 Agent Secret,钉钉要 App Key 加 Secret,Telegram 和 Discord 各要一个 Bot Token,微信是扫码绑定。支持的通道挺全:飞书、钉钉、QQ、微信、Telegram、Discord、企业微信。
定时任务可以直接用自然语言描述,不用手写 cron 表达式,这对我们这种每次写 cron 都要查语法的人很友好。
跑通那一刻的感觉,跟用聊天框不太一样,它是主动的,不是等你来问。
顺带说两个我本来没预期到、后来用上的功能。
浏览器 AI+,基于 Chromium 的无头会话,能自动填表、截图。搭配远程桌面(控制台里直接看屏、控键鼠,跨 Linux、Windows、macOS)一起用,一些老掉牙的、只有 GUI 没有接口的系统也能处理。
知识库,基于你自己文档的 RAG 检索。我丢了一堆内部文档进去,问它问题时会先检索再回答,而不是凭印象编。这个「锚定私有知识」的能力,是云端助手很难给的,你不太可能把内部文档传上去。
一些我觉得该说清楚的事
先说让我不太放心的地方。
它对机器有要求:一台常开的机器,几 GB 内存,还得有地方放数据库、Agent 工作区和文档语料。笔记本合上盖就没了,真要长期用得挂在一台小主机或者 NAS 上。它甚至给了飞牛 FnOS 的安装包,ARM 机器推荐 Docker 版,x86_64 有个不需要 Docker 的原生包。
版本还在早期。GitHub 上 722 个 open issue,今年 7 月才创建,最新版本号是 1.0.2b6,还挂着 beta 后缀。AgentTeams(多个专家协作干多步骤任务)也在 Beta,我尝试了下,协调能力有,但复杂任务的表现不算稳定。项目里有条路线图计划做「自我进化」,把日常对话自动提炼成可复用技能,听着很美,但我还没想明白它怎么保证提炼出来的技能不跑偏。
运维责任全在你。数据在本地的背面是,备份也在你。octop backup 我养成了升级前必跑的习惯。
再说我觉得它做对了的地方。
多用户隔离是认真的。 JWT 认证,每个用户独立的 Agent 和工作区,还有管理员角色。它不是「给你一个玩具」,而是真按「一个部署给一家人用」来设计的,按成员分配不同专家,共享知识库和专家配置。这个场景在别的产品里得加席位费。
安全上没偷懒。 敏感数据在离开工作区前会脱敏;高风险工具和 shell 命令需要显式审批;shell 命令规则放在 ~/.octop/security/tool_guard/ 下,你自己能改。给 AI 开 shell 权限这件事,有护栏和没护栏完全是两回事。
不锁定供应商。 模型、存储后端、IM 通道都能换,不用重写 Agent。这一条决定了你随时能走。
我的看法
说实话,我不觉得 Octop 适合所有人。它要求你有一台常开的机器,要求你愿意折腾通道配置,要求你接受一个还在快速变动的项目。
但它回答了我开头那个问题:为什么两年了,我的助手还是不认识我。
因为一个不归你管、也带不走的助手,本质上积累不出任何东西。你把对话记录、工作区、凭据都放回自己的硬盘上,「记忆」才有意义,它跟着工作区迁移,你换个机器它还在。
8500 多 star、MIT 协议、Python 加 FastAPI 加 React 的技术栈,想自己改也改得动。我觉得这类项目值得更多人试试,哪怕只是装一次看看思路。
源码在 github.com/TencentCloud/Octop。如果你只想看个热闹,官网 octop.cloud 有介绍。