
这几天,我把我那台配置拉满的Mac M2 Max(64G内存) 里所有关于本地 AI 的软件,全部彻底删除了,一个没留。
过去整整5 天,我过得像个修电脑的网管。每天对着黑底白字的终端窗口疯狂重试,经历了下载、适配、安装、报错、再报错、最终崩溃的全过程。
今天写下这篇“翻车实录”,我不跟你们玩虚的,就用最实在的软件名字、命令细节和网络卡点,清晰拆解出最致命的4 个技术死穴。准备入坑本地 AI 的内容创作者,请一条条对号入座,别再踩我踩过的坑。
一、一句无心的话,被AI 带偏了十万八千里
作为一个自媒体创作者,我日常的核心需求其实非常明确:
联动Obsidian 笔记:帮我自动生成文章、梳理读书笔记。
深度分析大部头文件:我手头有大量的PDF 书籍(比如《道德经》、印度服饰研究等),想让 AI 帮我快速识别和梳理。
爆款短视频拆解:帮我拆解大号的视频结构、学习文案风格。
在跟DeepSeek 咨询怎么搭建这个工作流时,因为后续可能会涉及一点财务咨询,我就随口提了一句“可能需要注意一下数据保密”。
结果,就因为这一句无心的话,DeepSeek瞬间“神经紧张”了。
它开始疯狂给我推荐一套极其高深复杂的“纯本地、纯离线”方案。在它的指挥下,我被带上了去折腾EXO(分布式框架,负责多模型多设备调度)和 Hermes(开源界著名的工具大模型)的不归路。
我当时对这些技术完全没有概念,觉得顶尖AI 推荐的肯定没错。我首先下载了专门管理本地大模型的软件 —— Ollama(欧拉玛),在里面疯狂死磕了 4 个多小时,通过一行命令:
ollama create nous-hermes2:7b -f ~/hermes.Modelfile
终于把Hermes-2-Pro-Llama-3-8B-Q4_K_M.gguf 这个模型导入并跑了起来。当时我还感叹 DeepSeek 挺厉害,可我万万没想到,翻车的种子从这一刻起就埋下了。
经过这5 天的反复毒打,我才明白了一个价值千金的痛彻感悟:Hermes 绝不等于 Hermes Agent! 很多人一听到名字一样就以为是一个东西,这是整场悲剧的认知总根源。
二、智商被按在地上摩擦的4 大硬核卡点
卡点1:此 Hermes 非彼 Hermes!我用 Ollama 装了个“残废大脑”
模型在Ollama 跑通后,我兴冲冲地在 Ollama 的官方聊天界面(New Chat)里开始测试,结果直接傻眼:
我扔给它一张拍得很清晰的《道德经》图片想让它识别,它直接报错弹出一行英文,说只能识别纯文字。
我让它帮我改一篇文章,每次提新要求,它就像得了健忘症。我必须把原文连同修改要求一次次重新复制进对话框,否则它的改动完全不受控。
我想让它拆解视频结构,它说办不到,让我去下载各种其他第三方工具把视频转换成文字再丢给它。
我当时人都麻了。查了大量资料后我才明白:Ollama的聊天窗口,只负责调用本地大模型的“纯文本大脑”。 它被锁在一个空屋子里,根本没有手脚。它不能看图、不能联网、不能用工具、更没有长期记忆!
再次强调:Hermes绝不等于 Hermes Agent!
最关键的技术细节是:只有在Hermes 官方原生的对话窗口主入口里,才拥有人设自定义、技能自定义、版本查询以及调用外部工具的全部核心能力! 而我通过 Ollama 的自带窗口去聊,属于工具快捷入口(类似写笔记、改文稿的快捷键插件),根本不适合日常持续聊天和管理 Agent 本体。
卡点2:国内网络环境卡死,Agent 主体根本装不上
为了拿到完整的智能体能力,我又去问了豆包。豆包告诉我:“你觉得不能配置,是因为你只用了一键安装,没掌握官方的CLI 命令与本地配置文件体系。”于是,它指导我开始在终端里部署真正的 Hermes Agent。
这一步,让我体验到了什么叫真正的绝望。整个Agent 框架和 EXO 调度系统疯狂依赖 GitHub 等国外资源。在国内的网络环境下:
终端里执行安装脚本,进度条走到10%、20% 就直接卡死,紧接着就是满屏的 Connection timed out(连接超时)或者 Fetch failed(拉取失败)。
好不容易模型勉强下载完了,可当我想运行核心依赖时,终端一直疯狂提示command not found(找不到命令),或者 pip 命令根本无法识别和下载特定的 Agent 包。
模型版本极度混乱:装Hermes3:8b,发现它根本不支持 Agent 调用,完全没有批量解析和文件读取功能,等于白装;换成网传适配的 nous-hermes2:10.7b,虽然勉强能跑,但它的上下文(Context)仅仅只有 4K!放不下两条完整的短视频脚本,完全满足不了批量拆解的需求。
即使模型在Ollama 里显示存在,可一旦执行 Hermes setup 启动命令,终端依然冷冰冰地弹回一句 command not found。因为模型由 Ollama 统一管理,在没有把 Agent 框架搭好的情况下,根本没办法用外部命令去驱动它。
整整7 个多小时,核心 Agent 框架始终装不完整,等于只有个空壳,功能直接残废。
卡点3:没有可视化界面,全程在黑窗口里“开盲盒”
这个东西没有像微信、剪映、或者Obsidian 插件那样点点鼠标就能用的可视化操作界面。全程都是在一个黑乎乎的终端窗口里盲敲代码。
它报错时给出的提示极其模糊,普通创作者根本看不懂问题根源。最恶心的是,很多配置命令在运行过程中,会自动把环境变量写入你的系统配置文件(如.zshrc 或 .bash_profile)。
你以为你只是运行失败了,实际上你的系统底层已经被它悄悄修改了。全程只能靠猜、靠试,极为耗费精力和时间。
卡点4:请神容易送神难!卸载过程极其顽固
第5 天晚上,我决定彻底放弃,可没想到卸载才是最折磨人的大坑:
那些通过复杂脚本安装的文件,在Mac 上用普通删除命令根本删不掉程序本体。
想去手动删系统目录下的残留文件,终端直接无情弹出:Permission denied(权限不足)。
它的模型缓存、配置文件、环境变量多层残留隐藏极深。我以为我把软件删了,结果电脑一重启,在终端输入命令,竟然还能调用Ollama!
最后我只能硬着头皮,像个程序员一样,顺着系统底层路径一条一条去强制搜寻、手动擦除,才算把电脑清理干净。
三、憋了一肚子气,我得到的3 点真心话
折腾了5 天,我的短视频脚本一个没拆,书一页没读,最大的收获竟然是学会了怎么在 Mac 终端里强制删文件。冷静下来后,我想给所有想折腾本地 AI 的创作者几点真诚的建议:
时刻牢记“Hermes不等于Hermes Agent”。 别以为用Ollama 把模型拉下来就能为所欲为了。Ollama 只是把大脑跑起来,没有外挂的插件、没有专属的原生窗口和数据库支撑,它连张图片都看不了,更别提帮你管理复杂的笔记和视频拆解了。
硬件配置再高,也架不住网络和代码门槛。别以为你买了M2 Max 64G 顶配就能轻松搞定。国内的网络限制、代码报错、环境变量残留,能让一个不懂编程的普通创作者瞬间精神崩溃。
别为了工具去折腾工具。如果你只是想做「短视频脚本拆解+ 知识库 + 读书笔记」,市面上有很多成熟的、在网页上点点鼠标就能用的现成方案(比如成熟的线上 AI 平台,或者各种现成的 Obsidian 官方插件)。
工具是用来服务我们的,如果为了用一个工具,得先把自己逼成半个程序员去修5 天电脑,那这个工具不要也罢!

顺便给同样用Obsidian 的朋友填个坑:
经过这次惨痛的教训,我连夜研究了真正适合咱们普通创作者的Obsidian + AI 组合方案,完全不需要敲代码,网页点点、装个插件就能用:
Obsidian + Copilot插件(最推荐、最丝滑):直接在 Obsidian 插件市场搜索安装,它可以一键绑定第三方的 API(比如 DeepSeek 或者是国内的大模型),直接在笔记右侧开一个调阅窗口,能直接读取你当前的笔记库,帮你总结、续写,完全不需要本地部署。
Obsidian + Smart Connections插件:这个插件专门用来做“本地知识库关联”。它可以在本地帮你把所有笔记连起来,你用大白话提问,它就能在你的几百篇笔记里找出有关联的内容,是深度读书笔记的神器。
如果一定要本地免费:Obsidian + Page Assist浏览器插件:用 Ollama 跑模型(只当大脑),不要折腾什么 Agent 智能体。直接用成熟的网页端浏览器插件去连结 Ollama,一样可以实现局域网内传 PDF、看图,完全可视化操作!
你现在在用哪套AI 工具协同写笔记、拆短视频?有更好用的“神器组合”吗?快来评论区救救孩子,给点建议吧!
夜雨聆风