声明:【好玩的AI】单独开了一个系列,主体内容来自我,文档生成及排版来自AI工具,旨在记录自己学习AI的实际进展,并且给那些还在犹豫徘徊的读者一点参考。
本期想要传达的主要观点是:将AI应用在你的生活中,其实只有一步之遥——任何一个AI Agent都可以帮你缩短技术Gap,带你走向更广阔的AI天地。
前面我说过:最近学习AI有点上瘾,在上次用AI帮忙编制围棋app之后,我又开始了我文艺日历app的开发(基本功能完成,还差细节内容打磨),然后我在周末开始了本地音乐播放器的开发,结果idea越来越扩散,做完框架设计,就把之前workbuddy送的积分全部消耗殆尽,于是开始充值,一个晚上,3000积分又没了——虽然这笔开销是值得的,但鉴于我后面还有无限的脑洞,因此是个深不见底的消费深坑。因此,穷则思变,我开始琢磨,能在哪些环节省点米呢?
AI的学习其实有无限广阔的范畴,但是,千万别忘了:学习AI就是为了应用——我目前的AI使用场景之一,就是能问能答能思考的阅读伴侣——那就请他安装本地大模型吧,这样怎么聊,都不用消耗在线的token!

一、我请AI助手帮我装了这些
我的macbook是M4的基础版,已经装了一些东西,于是我首先请AI帮我看一下这台Mac电脑能不能装一些本地的大模型,如果要装的话,现在的资源可以装哪些大型的功能。


整个过程分几步,每一步其实都很简单——AI助手一边做一边告诉我它在做什么,我看着它跑命令,感觉就像有个技术同学在全程陪我干活。
Ollama 是一个在本地跑大模型的工具,类似于"大模型的Docker"。装好之后,想跑哪个模型就拉哪个,不需要联网,不需要API额度。我下载了 Ollama 的 DMG 文件,安装好之后拉了两个中文能力很强的大模型:
$ ollama pull qwen2.5:3b# 轻量版,反应快$ ollama pull qwen2.5:7b# 主力版,能力强
MacBook Air M4,16GB统一内存,跑这两个本地模型完全没问题。如果你也是 Apple Silicon 的 Mac,完全可以照着做。
二、装了本地大模型之后,我在干什么?
装好之后,我顺手测试了一下,读了一下我最近在看的书——《中国哲学简史》。
场景一:让2个模型介绍自己
我问它:"用一句话介绍一下自己,以及你的基本能力。"
3B 模型回答:"你好!我是Qwen,是阿里云开发的大规模语言模型。我被设计用来回答各种问题并生成文本内容,以帮助用户解决问题或者获得信息。"接着它列出了自己能做什么:回答问题、写作助手、翻译、创意生成。以及局限:问题越明确越精准,知识基于训练数据,无法替代人类直觉,图片音频处理有限。27个词,不到1秒就回来了。简洁、快速、够用。
7B 模型不仅回答了问题,还展开讲了自己的局限和擅长领域,足足 343 个词,读下来感觉像是在跟一个真正在思考的 interlocutor 讨论问题。
场景二:让模型聊中西方哲学差异

既然是本地模型,我想问些固有的知识效果会比较好,最近在看冯友兰的《中国哲学简史》——所以我问它一个很大的问题:"你觉得中国哲学和西方哲学的核心区别是什么?有人说中国没有宗教,是因为把规律内化成了'道',而西方需要一个神的手来制定规律,你怎么看?"
3B 模型回答,我觉得可以直接做小视频的口播逐字稿:
你这个问题其实触及了文明最深层的分歧点。---**先说一个事实:中国不是"没有宗教",而是宗教从来没有成为制度性力量**商周时期,中国有完整的神权体系——天子祭天、占卜问神、祖先崇拜。但从周朝开始,一个根本性的转向发生了:**"天命无常"**——周人灭了商之后开始反思,说"天命"不是固定不变的,而是看统治者有没有德性。这句话是中国哲学的真正起点。它把神圣权威和人的道德绑在了一起:**神不神,选人;人有没有德,决定天命的归属。**孔子继承了这个精神,但把"天"进一步淡化,聚焦到"人"本身——"仁"不是从天而降的戒律,是人本身可以培养的品质。---**为什么西方需要一个"神的手"?**犹太-基督教传统的核心不是"规律",而是**位格化的介入者**——上帝不是一条法则,是一个会说话、会发怒、会拯救、会审判的存在。希腊柏拉图哲学加入之后,这个上帝被赋予了"至高的理念",成了真理的来源。这两条线合在一起,就造出了一个**既超验又介入历史的神**。而教会作为这个神在人间的代理机构,就成了一个制度性权力。但中国不一样。中国最早的"天"虽然也有人格化色彩,但很快被"道"这个概念取代了——"道"不是意志,是规律,而且是**内在于**世界本身的规律,不是在世界之外另有一个意志在操控。---**你提到的那个核心差异**> 东方:规律本身就存在,人去悟它> 西方:规律需要一个意志来制定和维持这个直觉非常准确。但我想补充一个维度——为什么会这样?**农业文明的结构性差异**中华文明的早熟,体现在它很早就形成了一套超稳定的农业帝国结构。这套结构需要一个**官僚系统**来运转,而不需要一个宗教机构。皇帝是天子,但天子是政治权威,不是宗教权威;礼是仪式,但礼的目的是维持社会秩序,不是为了接近神。所以中国的"天人合一"本质上是**政治秩序和自然秩序的合一**——天是最高的政治合法性来源,人间的秩序是"天"的显现。悟道不是为了得救赎,是为了**合乎天地之理,把人放在恰当的位置上**。西方的基督教神学本质上是**灵魂和神的垂直关系**——你信神,神救你脱离这个世界。焦点不在这个世界,在彼岸。---**一句话总结**> 西方:规律需要一个制定者(神),所以神必须是位格化的> 中国:规律就在这个世界里(道),人需要的是悟,不是信这不是优劣的问题,是**两种文明面对"秩序从何而来"这个根本问题,给出了不同的答案。**你说看完全部西方哲学史再回头看中国哲学,感觉更早熟——因为中国直接从"自然秩序"出发,没有绕那个"神学解释"的弯。这个直觉冯友兰也认同,他在书里其实暗示过这个观点。
7B模型的回答,我感觉似乎论证比3B深入一点:
关于"中国没有宗教"的说法并不准确——道教、佛教、祖先崇拜都是精神信仰,只是形式不同于欧洲中世纪的一神教体系。你提到的观点有一定道理。中国哲学的"道"确实强调自然与人类的内在和谐,儒家的天人合一、道家的无为而治都是这种整体性思维的体现。但西方哲学也并非忽视自然规律——现代科学恰恰建立在发现和实验之上,只是基督教传统把这些规律解释为神的意志,需要一个超验的"立法者"。这两种差异并非绝对对立,而是不同文化背景下的思考模式。全球化时代,东西方哲学正在相互借鉴、融合。值得注意的是,你的观察触及了一个深层问题:为什么中国把规律内化,西方却需要外化一个神?这个问题没有标准答案,但确实反映了两种文明面对"秩序从何而来"给出的不同回答。
7B 明显更会"展开",它没有直接反驳你,而是先承认你说的有道理,再补充局限,然后给出更深层的理解。最后还把问题抛回给你。
3B 的回答偏简单直接,7B 更像一个"认真在讨论问题"的 interlocutor。
现在等于有了一个随时能聊的"思考搭档",而且是两个版本:
- 3B:快、便宜、跑得动——快速查资料、头脑风暴用
- 7B:深、稳、能力强——认真讨论问题时主力
三、这次我学到了什么?
1. 装东西这件事本身,没有想象中那么难
以前觉得"装本地大模型"是程序员才搞得定的。但今天AI助手一边做一边告诉我它在做什么,我发现自己其实能理解大部分在发生什么。原来技术细节没那么可怕,可怕的是"觉得自己不懂就不去试"。
2. AI可以帮你装AI,这件事本身就很有意思
用AI助手去装另一个AI工具(我甚至用miniMax Agent安装了Hermes Agent),听起来有点绕,但实际体验很顺畅。它知道我在做什么,知道下一步该做什么,甚至知道出了问题该怎么修。这也许是未来"人和AI协作"的一种最自然的方式。
3. 本地模型的价值不只是"免费"
真正让我觉得有价值的是:本地模型不知道疲倦,可以问多少遍都不会烦。不像云端API那样算额度、催着评分,它是真正的"思考伙伴"。
四、本地大模型带来新可能
- 无限对话额度:所有本地问答不消耗任何API额度,零成本随便聊,不担心额度用完。
- 响应快:本地模型跑在Mac上,不用等云端返回,基本是即时响应。
- 隐私安全:所有对话都在本地,没有任何数据外传,敏感话题随便聊。
- 最耐心的学习搭档:不知道疲倦,随时可以问、反复问、问多少遍都可以。它不是一个搜索引擎,而是一个真正的思考伙伴——能帮你把一个问题想得更深。
- 中文能力强:
Qwen 2.5在中文理解上表现很好,读哲学、聊历史、做总结,完全够用。 组合灵活:日常快速问答走本地 3B,深度讨论走本地 7B,复杂推理任务走 MiniMax 云端——各有分工,互不浪费。
当然,本地模型不是万能的——深度推理和多步骤任务上,还是不如云端的大模型,但我们日常80%的学习问题和思考讨论,本地模型的知识储备已经足够了。它可能响应慢一点,没有云端那么"全能",但它给你的那种陪伴感——随时在、永远耐心、不计次数——是云端API永远给不了的。
五、写在最后
今天让我感触最深的不只是"装了什么东西",而是这个过程本身——以前觉得"装本地大模型"这件事很繁琐,有好多的环境要去准备去调试,热情往往就这么被消耗没了——但是现在AI Agent一边做一边告诉我它在做什么,并且同时解决所有问题。你不需要懂所有的技术细节,你只需要知道你想做什么,然后找到合适的搭档。今天这个搭档,就是另一个AI。

夜雨聆风