夜雨聆风你想买一台 3 万、5 万，甚至更贵的电脑，在家里跑 AI。
我先泼一盆冷水：如果你只是想“本地跑个大模型”，这笔钱大概率不值。
它更像买一台高端游戏 PC。
你当然能玩。画质更高，帧率更稳，开机那一刻也很爽。
但如果你平时只玩一点轻量游戏，偶尔追一两个 3A 大作，那它更多是在桌子底下提醒你：
“我很贵。你最好真的用我。”
本地 AI 也是这样。
不是不能买。
是你得先想清楚：你买的到底是生产力，还是一个很贵的折腾权。
入门很简单，难的是别被入门骗了
现在想在自己机器上跑模型，门槛已经低到离谱。
装一个 Ollama，拉一个模型，命令行一敲，就能聊。
比如你可以从 8B 小模型开始。8B、32B、30B-A3B 里的 B，指的是十亿级参数量。一般来说，参数越多，模型越聪明，也越吃显存和内存。
很多人会用一个粗略算法：
8B 量化模型，大概几 GB。
32B 量化模型，大概十几到二十 GB。
这不是精确公式，只是买机器前的第一道现实检查：模型不是“能下载”就等于“能舒服地跑”。
你会很快撞上三堵墙。
第一堵墙，是显存。
模型本体要占显存，上下文也要占显存。你把对话拉长，把代码仓库塞进去，把工具调用、系统提示词、历史消息都堆上去，显存就会开始报警。
第二堵墙，是速度。
模型放不进显存，就会有一部分被挪到系统内存和 CPU 上跑。能跑，但慢。
不是“稍微慢一点”。
是你本来想让 AI 替你省时间，结果你开始看着它一个字一个字吐，心里想：要不我自己写算了。
第三堵墙，是能力。
小模型能帮你改改句子，写点脚本，做些简单问答。
但你不要指望它变成订阅版 Claude、ChatGPT 或 Gemini。
本地模型最容易给人的错觉是：它跑起来了，所以它就能替代云端大模型。
这两件事差很远。
接上 Claude Code？可以，但别幻想太多
现在 Ollama 已经支持 OpenAI 兼容接口，也支持 Anthropic 兼容接口。技术上，你可以把一些工具指向本地 Ollama，让 Claude Code 这类工作流去调用本地模型。
这事能做。
但做完之后，你马上会发现另一个问题：上下文。
真正让编程助手“像魔法”的，不只是模型本身。
它还有大量系统提示、项目上下文、工具说明、历史记录、文件片段。你在云端订阅里不太感知这些东西，因为算力和上下文窗口被藏在产品后面。
一旦搬到自己机器上，它们就都变成你的成本。
你以为自己在跑一句“hello world”。
实际是在跑一整套工作流。
所以，小机器能不能接？
能。
好不好用？
看你忍耐力。
专用显卡，还是比 Mac 更适合这件事
如果你认真跑本地大模型，一张独立显卡通常比普通 Mac 更合适。
原因不是“Mac 不行”。
Mac 的统一内存很香，尤其是大内存版本，可以塞进一些消费级显卡放不下的模型。
但 LLM 推理很吃内存带宽。独立显卡上的 GDDR 显存速度很高，而且很多推理框架首先围绕 NVIDIA CUDA 生态优化。
同样是“有内存”，体验可能完全不同。
比如一张 16GB 的 RTX 5060 Ti，纸面总内存不如一台 24GB 的 MacBook Air。
但它有独立高速显存，有 CUDA 生态。跑某些模型时，可能比 MacBook Air 更顺。
再往上，RTX 5090 这种卡有 32GB 显存，带宽也高得多。速度会明显改善，图像生成、短视频生成、本地推理都会变得更“能忍”。
但价格也会明显改善你的消费观。
你会突然变得节俭。
3万 到 5万 人民币，买来的不是自由，是责任
原文作者从 RTX 5060 Ti 16GB 升到 RTX 5090 32GB，感受很直接：
小模型跑得动。
大一点的模型舒服多了。
图像、视频生成速度也好多了。
但他最后的结论不是“快买”。
而是：别只为了本地 AI 买。
这才是最实在的地方。
如果这台机器还有别的用途，比如：
你本来就要玩游戏；你会做本地视频、图像、3D、训练或推理；你有隐私需求，不想把私人笔记、个人材料、公司外资料都丢进云端；你享受 homelab，本来就愿意折腾服务器、网络、存储和各种工作流；你明确需要不受平台策略限制的开源模型。
那它可以算一笔账。
但如果你只是看了几个“本地 AI 自由”的视频，脑子一热想下单。
先别急。
本地 AI 不是把云端订阅费一次性付清。它是一套新的维护成本。
你要维护驱动。
要挑模型。
要看量化。
要调上下文。
要处理速度、散热、噪音、电费。
要接受小模型偶尔像实习生，大模型又装不下的尴尬。
这不是坏事。
但它不是“买回来就自由”。
它更像你在家里雇了一个 24 小时待命的助理。
问题是，这个助理有时候很聪明，有时候很慢，有时候还需要你亲自给它修电脑。
老服务器很诱人，但大多是陷阱
很多人会想：显卡太贵，那我买二手企业服务器行不行？
看起来很划算。
几百美元，几十上百 GB 内存，机箱巨大，灯一闪，像个正经数据中心。
但对 AI 来说，内存不只是“多”。
还要快。
没有合适的 GPU，模型主要靠 CPU 跑。企业服务器的内存容量可能很大，但带宽和显卡 VRAM 不是一回事。
结果常常是：
声音很大。
耗电不少。
速度很慢。
房间像机房，体验像排队。
便宜买来的，最后会从时间、噪音和电费里收回去。
Mac Studio 呢？
Mac Studio 的诱惑也真实存在。
大统一内存能装下很大的模型。对不想折腾显卡、驱动、电源、机箱的人来说，它比自装 PC 省心。
但问题也在这里：它贵，而且升级路径有限。
如果你买的是高配 Mac Studio，你买到的是一个漂亮、安静、完整的盒子。
如果你装的是 PC，你买到的是一条还能继续换显卡、换电源、加硬盘的路。
这两者没有绝对答案。
只看你是想要省心，还是想要可折腾。
电费不是主菜，但也不会消失
高端显卡不是一直满载。
但当它认真干活时，功耗并不温柔。
电源的 80 PLUS 白金、钛金认证，能减少从墙上取电到机器供电过程中的浪费。
但它不能让 RTX 5090 本身少吃多少电。
换句话说：
好电源是少浪费。
不是免单。
如果你只是偶尔跑模型，电费可能不是最大问题。
如果你天天生成图、跑视频、长时间推理，那它会慢慢出现在账单里。
不吓人。
但也别假装不存在。
什么时候值得买？
我会把判断压成一句：
只有当本地 AI 是这台机器的第二个理由，而不是唯一理由时，它才更值得买。
如果你本来就需要一台高端 PC，本地 AI 是加分项。
如果你本来就做创作，本地 AI 是加速器。
如果你有隐私材料，本地 AI 是保险箱。
如果你只是想省订阅费，本地 AI 很可能不是省钱。
它只是把每月 20 美元、200 美元的云端账单，换成一次几千美元的硬件账单，再附赠维护、折腾和试错。
云端模型贵。
但它替你买了机房、显卡、电力、散热、运维和模型服务。
本地机器自由。
但自由的另一面，是所有麻烦都归你。
最后说句实话
本地 AI 很迷人。
能把私人材料留在自己电脑里，能跑开源模型，能折腾工作流，能看着一台机器在桌下替你干活，这种感觉确实爽。
但它不是每个人都需要的未来。
至少现在不是。
如果你已经有很多理由买一台高端机器，那就买。
如果你只是为了“我也想本地跑 AI”，先从你现有电脑上的 Ollama、小模型、LM Studio、云端 API 混合工作流试起。
跑几周。
看看你是不是真的每天用。
看看你是不是真的受不了云端。
看看你是不是真的愿意为速度、隐私和不受限制付出维护成本。
再下单。
别让一台 8000 美元的机器，最后只证明一件事：
你其实需要的不是本地 AI。
你只是想买点未来感。
如果这篇帮你省下一次冲动下单，把它转给那个已经打开购物车的人。
本文翻译整理自：https://funable.medium.com/is-it-worth-buying-a-4-000-8-000-machine-to-run-ai-locally-0ab68088a6e0