我把 AI 助手搬进了自己的 Mac：一个 100% 本地运行、会听会说的 Agentic OS 搭建实录

不调 OpenAI、不联网、数据全留本机。Obsidian 当记忆、Ollama 当大脑、Whisper 当耳朵、Kokoro 当嘴巴，再加一个网页仪表盘——我给自己攒出了一套"贾维斯"。

一、为什么要在本地搭一个 AI 工作站

用了一年各种云端 AI 助手，我越来越有三个不舒服：

1. 隐私焦虑
   ：我把待办、密码提示、随手记都喂给了别人的服务器。

1. 账单焦虑
   ：API 按 token 计费，跑个长任务心在滴血。

1. 断网就废
   ：地铁进隧道、公司内网一锁，助手秒变智障。

直到前阵子看到一篇讲 Agentic OS（Claude OS） 的文章——它的核心不是"又一个聊天框"，而是把听、想、说、记拆成五个独立部件，像搭乐高一样拼出一个"活在本地的工作站"。

原文的方案大量依赖云端（faster-whisper 云端版、Jev 云端路由、Claude Code 云端大脑）。而我想要的是：同样的体验，但数据一个字节都不出我的电脑。

于是我花了一周，把它整套本地化了。下面是我踩完坑后的真实记录。

二、五个部件，一个都不能少

整个系统的骨架非常清晰，我画了一张图（后面有真图）：

五个角色分别是：
脸（Face）
：一个极简本地网页仪表盘，每个日常技能一个按钮。点击即用。
耳朵+嘴巴（Whisper + Kokoro）
：Whisper 把你的话转成文字（我用了纯 C++、Apple Silicon 加速的 whisper.cpp
），Kokoro 把回答念出来。全程不联网。
交通警（Router / Jev）
：最关键的"调度器"。它不回答问题，只决定"这件事该交给谁"。
大脑（Brain）
：真正干重活的大模型，跑在本地 Ollama 上（qwen3:8b / gpt-oss:20b）。
记忆（Memory）
：你的 Obsidian 仓库，所有对话、笔记、产物都沉淀成 Markdown。
三、聪明的"交通警"：三路分流
系统好不好用，80% 看这个调度器。我的实现把每个请求分三条路：
请求类型
走哪条路
例子
查记忆（notes）
直接检索本地 Obsidian
"我 wifi 密码存哪了" → 命中笔记，秒回
轻量（model）
本地小模型 qwen3.5:4b 一句话答
"今天 AI 圈最大新闻是啥"
重活（code）
拉起大脑大模型
"给我写个抓豆瓣 Top250 的脚本"
好处是该快的地方快、该省的地方省：查自己的笔记根本不用惊动大模型；闲聊用 4B 小模型就够；只有真正要写代码、做分析才唤醒 8B 大脑。一轮下来，绝大部分日常请求的算力成本几乎为零。
四、会听会说的闭环
点一下仪表盘上的"开始对话"，整条链路就活了：
你说话 → Whisper 听写 → Router 分流 → 本地模型回答 → Kokoro 念回 → 存进 Obsidian
而且它不是"一问一答"的傻循环。我后来加了一个多轮语音对话功能：
你说完一轮，它念完答案，自动进入下一轮；
你说"结束 / 停止 / stop / 再见"任意词，对话自动收尾；
每一轮的问答，都会自动变成一条 Markdown 笔记，存进 ~/vault/inbox。
等于你边聊，它边帮你记。一个月后回看，全是结构化沉淀，而不是聊天软件里翻不到的对话碎片。
五、真跑通了，不是 PPT
很多人看到这里会想："又是纸上谈兵吧？"
我没有只给代码，而是把每一步都真跑了一遍并录了屏：
demo.html
 / demo.cast：展示路由三级分类、仪表盘启动、技能触发——全部返回真实结果。
voice_demo.html
 / voice_demo.cast：展示语音全链路——喂一段音频，Whisper 真实听写、Router 真实分流、TTS 真实生成音频文件、笔记真实落盘。
实测里有个细节很能说明问题：我喂了一段 JFK 的演讲样本，系统把它判为"轻量"路径，交给小模型回答并念回；换成"我的 wifi 密码"就走"查记忆"；换成"写个爬虫"就走"重活"。三种路径，条条都通。
六、踩过的坑（都是干货）
分享几个我最想拍大腿的坑，省你时间：
Python 版本陷阱
：系统自带的 3.13 和语音库 Kokoro 八字不合。统一用 python3.12 建虚拟环境，世界立刻清净。
大模型权重下载被掐
：网络环境不稳时，几百 MB 的模型下到一半就断。先用 tiny.en 这种小模型把整条链路跑通，再慢慢补大的。
中文进了 URL 就乱码
：仪表盘按钮名一开始用了中文，拼进网址被编码成一坨乱码，路由匹配不到。改成"ASCII 主键 + 中文显示名"立刻解决。
这些坑单看都小，但没踩过的人能卡一下午。
七、怎么拿到这套东西
整套代码、脚本、录屏都放在本地项目里：
跟着 README.md
 走，有 Ollama、有 Obsidian 的 Mac 用户基本一小时就能跑起来。
写在最后
搭完这套东西，我最大的感触不是"技术多酷"，而是掌控感：
它不会在我断网时罢工，不会把我的日记偷偷拿去训练，也不会因为账单超了就停服。它是我的助手，住我的电脑里，听我的话，记我的事。
Agentic OS 不一定要云端。把五个部件换成本地版本，你也能拥有一个真正属于自己的 AI。
如果你也想动手搭，欢迎在评论区聊聊你的环境，我可以帮你把上面的坑再针对性排一遍。