夜雨聆风学习资料网

ARTICLE · 1031274

默认密码是 octop?我把团队 AI 助手从云端搬回家,省下一年 SaaS 钱

默认密码是 octop?我把团队 AI 助手从云端搬回家,省下一年 SaaS 钱
这两天 AI 圈的新闻一个比一个重。9 月 18 号腾讯研究院的 AI 速递里,华为亮出昇腾 960 超节点,号称能堆出百万卡集群;同一天,Anthropic 宣布把 Cowork 和 Chat 合并成统一的 Claude,还顺手推出了 Docs 和 Slides。大厂在拼命把 AI 助手往“超大算力加封闭云工作台”里卷。可我盯着另一条轻得多的消息看了很久——腾讯云把开源自托管 AI 助手 Octop 推到了 1.0 正式版。对一家小团队来说,它比百万卡离钱更近:一条命令,就能把一套“数据攥在自己手里”的 AI 助手跑起来。

一个想让数据不出门的小团队

先说人。阿杰是我认识的一个典型小团队技术负责人,手下三四个人的内容工作室,日常要处理客户资料、写方案、在飞书群里被@来@去。此前他们用某云端 AI 助手,每月按人头收 SaaS 费,最关键的是,所有对话和文档都躺在别人的服务器上。“客户合同摘要也传上去,心里总不踏实。”他说。9 月中旬,他在 GitHub 上翻到 Octop(仓库 TencentCloud/Octop,MIT 协议,Python 写的,9 月 14 号刚发 1.0.0 GA,三千多 star),决定给自己团队搭一套“搬回家”的版本。
Octop 的定位就一句话:自托管的多用户、多智能体 AI 助手。整套系统跑在你自己的机器或服务器上,数据留在本地 ~/.octop/ 目录,不依赖任何云服务。一个 Python 包加一个 Web 控制台,一人管、全队用,每人有独立账户和独立工作区。对阿杰这种“既要便宜、又要数据不出门”的小团队,正好对上。

阿杰的二十分钟:上手三步

他实际跑起来的过程,比想象中简单。我把它拆成三步,照着做二十来分钟就能用。
第一步,装和起。macOS 或 Linux 一条命令装好:curl -fsSL https://finnie-1258344699.cos.ap-guangzhou.myqcloud.com/octop/install.sh | bash,Windows 用对应的 PowerShell 脚本。然后 octop init 建数据库和首个管理员,octop run 启动,浏览器开 http://127.0.0.1:8088 就能进控制台。生产环境他图省事,直接用了 Docker:docker compose -f deploy/docker-compose.yml up -d,一台 2GB 内存的轻量服务器(腾讯云 Lighthouse 有现成镜像)就扛住了。
第二步,接模型。Octop 的模型后端可插拔,兼容 OpenAI 风格 API、阿里云 DashScope(通义千问 Qwen),也支持 Ollama 本地模型。阿杰把日常问答接了 Ollama 跑本地小模型,复杂推理才切到云端 Key,成本一下压下来。
第三步,喂知识库、接群。他上传了团队过往的方案模板和客户 FAQ,开了文档 RAG 知识库;又把飞书渠道接进来,群里@“方案专家”就能直接调内部资料回答。知识库专家参考了 Karpathy 的 llm-wiki 思路,把原始资料编译成互相链接的 Markdown Wiki,回答能追溯来源,不像普通聊天那样瞎编。

他踩过的三个坑

坑一,默认密码。第一次启动默认账号 admin、密码 octop,官方明说“请立即修改”。阿杰图快没改,结果测试时把端口暴露到了公网,幸好没出事。教训很清楚:上线第一件事就是在“设置到用户”里改密码,公网访问一定加 Nginx 反代和 HTTPS。
坑二,连接器偏腾讯系。Octop 自带十几个连接器,腾讯文档、腾讯会议、微信读书都有,但第三方系统大多得靠自己接 MCP。阿杰想接公司内部 CRM,最后是自己写了个 MCP Server 才打通。
坑三,运维自担。自托管的好处是数据可控,代价是服务器、备份、模型 API 成本全自己扛。他每周手动备份一次 ~/.octop/,模型调用也盯着手里的额度走。这不是“装完就完事”的工具。

说清边界:谁适合,谁不适合

把效果边界说在前面:Octop 适合有起码技术能力的小团队、一人公司、开发者,想要多人共用、接得进自己 IM、数据自持;它不适合纯家庭用户里完全不懂服务器的那一位——你得有人愿意当那个“管服务器的人”。另外原生移动端还在规划,重度手机党得等一等。安全上它做得不差:JWT 多用户隔离、工具调用审批、shell 命令护栏、敏感信息脱敏,专家默认跑在沙箱里,越不了宿主机的界。
阿杰算过一笔账:原来四个人一年的云端 SaaS 费,够他买两台轻量服务器加一年模型调用还有剩。当部署只剩一条命令,真正的问题从来不是“能不能跑”,而是“你愿不愿意为数据属于自己,多维护一台机器”。
你呢——如果有一套免费开源、数据全留在本地的 AI 助手,你愿意为它多管一台服务器吗?评论区聊聊。
下期预告:按轮换,下一期是「资讯盘点加技术科普」,我会带你看这一周里几个“不那么显眼、但会改变普通人”的技术动向。

相关学习资料