夜雨聆风学习资料网

ARTICLE · 1290153

断网也能干活:这个免费开源的 Mac AI 助手,把 DeepSeek 和 Qwen 关进了苹果沙箱

断网也能干活:这个免费开源的 Mac AI 助手,把 DeepSeek 和 Qwen 关进了苹果沙箱

一、先说一段这周的争论

这周 X 上有一段 Sam Altman 的讲话片段很火,单条转录帖的曝光超过 350 万。

他的意思大概是:很多人以为有了开源模型,在自己电脑上跑 AI 就行了,不需要数据中心。但从全球资源分配看,这"相当糟糕":每个人电脑里都塞着一堆稀缺的内存,大部分时间只用到 5% 左右。要应对算力紧缺,就应该在云端把利用率拉满。

这段话一出来,评论区直接炸了。

知名硬件博主 Jeff Geerling 回了一句:"我家割草机一周也就用一次,我是不是该找 OpenAI 租一台?"顺手又补了一刀:"而且,内存短缺是谁造成的?可不是普通消费者。"这条回复拿到了 7000 多个赞。

图:Jeff Geerling 回复 Sam Altman 的讲话片段(来源:X @geerlingguy)

有意思的是,就在同一周,一个做了好几年 Mac 本地 AI 的团队,交出了一份完全相反的答卷。

他们把一个 7630 亿参数的 DeepSeek 模型,量化后塞进了 Mac。再配上 Python、Node.js、LibreOffice、FFmpeg 等一整套工具,做成一个可以断网工作的 AI 助手,而且整个 App 开源。

它叫 Local Code,来自 Draw Things 团队。

国内这款产品目前还很少有人讨论。我翻了一圈,只看到零星几条推文和个别技术博客,主流科技媒体基本没报。所以今天这篇,AI猫把它拆开讲讲。

二、Local Code 是什么?

一句话:一个装在 Mac 上、能真正干活的本地 AI 助手。

注意"干活"两个字。它不是又一个本地聊天框,而是能自己写代码、跑代码、改文件的 Agent。

按官方 GitHub 的说法,它把三样东西装进了一个 App:

1. 推理引擎:专门为苹果芯片优化,负责在你的 Mac 上跑大模型;

2. Harness(可以理解为"驾驭层"):针对每个模型单独调过的工作流,告诉模型怎么规划、怎么调用工具;

3. Agent 运行环境:内置 Shell、Python 3.14、Node.js 24,还有 LibreOffice、FFmpeg、浏览器、Lean 定理证明器等工具。

开发团队 Draw Things 你可能听过,它是 Mac 和 iPhone 上很有名的本地 AI 绘图 App。核心开发者 Liu Liu 的 X 简介写着:2014 到 2020 年写过 Snapchat 的 iOS 客户端,2013 年参与创建了 Facebook Videos。

官方列出的能做的事包括:

• 用本地 Python 画精确的饼图、柱状图、信息图;

• 做带动效的幻灯片和讲解视频;

• 写 Python、JavaScript,或者帮你审代码;

• 打开网站、登录账号、帮你预约;

• 连接照片、日历、备忘录、邮件、信息,帮你总结或整理;

• 更新 Excel、读 Word、按要求改 PPT。

官网首页的口号很直接:严肃的 AI 工作,永远不离开你的 Mac。

图:Local Code 官网首页(来源:getlocalcode.app)

三、为什么值得关注?三个关键点

1. 它跑的是国产开源模型

Local Code 内置的三个模型,全部来自中国团队:

模型
参数量
下载大小
官方建议内存
Qwen 3.8 27B
270 亿
约 10–21GB(可选 2/4/8 位)
16GB 起
DeepSeek 4 Flash 0731
3040 亿
约 89GB
48GB 起
DeepSeek 4.1 Flash 1017
7630 亿
376GB(2 位)/ 412GB(3 位)
64GB 起

发布文章里,团队还专门感谢了 DeepSeek 和 Qwen 团队开放权重。

这件事本身就很有意思:一款面向海外 Mac 用户的明星本地 AI 产品,底座是国产开源模型。它说明在"本地能跑的最强模型"这条赛道上,国产开源已经是事实上的首选。

2. 安全边界交给苹果,而不是开发者

这是 AI猫觉得最值得说的一点。

现在主流的编程 Agent,比如 Claude Code、Codex、OpenCode,大多直接跑在你的电脑上。它们也有权限确认,但 Local Code 团队在公测文章里说得很直白:这些工具本身是带着完整权限运行的,能看到电脑上的一切。

Local Code 换了个思路:

• 所有工具(Shell、Python、Node 等)都被编译进 App 本身,在 App 的进程里运行;

• 整个 App 跑在苹果的 App Sandbox(应用沙箱) 和 Hardened Runtime 里;

• Agent 没有全盘访问权限,也不能启动你电脑上的其他程序;

• 它只能读写你授权的工作区文件夹。

Liu Liu 在 MacRumors 评论区的解释很到位。大意是:其他工具会保护你不被"别的坏 App"伤害,但没法保护你不被它自己伤害。Local Code 让苹果来给它上锁,所以你信任的是苹果,而不是我们。

他还加了一句:代码全开源,你不用信我说的,可以让你的 Agent 逐条去验证。

图:官网对沙箱权限的说明,左边是三层隔离,右边是能做和不能做的事(来源:getlocalcode.app)

3. 开箱即用,不用折腾

以前想在 Mac 上跑本地大模型干活,大概要这样折腾:装 Ollama 或 LM Studio,下模型,装 Python 环境,再找个 Agent 框架接上,最后配 MCP……

Local Code 的思路是:下载 App → 选模型 → 开始干活。不用注册,不用 API Key,也不用装外部 MCP 服务器。

据 Liu Liu 说,整个 App 只有六百兆左右,ffmpeg、LibreOffice、Python、Node.js、Lean 都已经打包在里面。

四、怎么上手?

第 1 步:下载

官网 getlocalcode.app 提供直接下载。10 月 31 日,官方账号宣布已经上架 Mac App Store,Liu Liu 称它是"Mac App Store 里第一个也是唯一一个本地编程 Agent"。国区 App Store 能不能搜到,建议你自己确认一下。

第 2 步:选模型

打开 App 后,内置的模型选择器会根据你的内存推荐:

• 32GB 以下:Qwen 3.8 27B(2 位,约 9.6GB)

• 32GB 及以上:Qwen 3.8 27B(4 位,约 21.3GB)

• 48GB 及以上:DeepSeek 4 Flash 0731

• 64GB 及以上:DeepSeek 4.1 Flash 1017

之后随时可以切换。

第 3 步:确认两个关键设置

• Where Models Run(模型在哪跑):选 On Device,提示词、文件和工具输出都留在本机;

• Permitted Folders(允许的文件夹):只开你想让它碰的文件夹。

第 4 步:像使唤同事一样下任务

官网演示里的几个例子可以直接参考:

• "用 sales.xlsx 画出第三季度营收图表,做一份 5 页的 PPT。"

• "按月画出营收趋势,有异常的地方标出来。"

• "把我下周的日历做成一段讲解视频。"

第 5 步(可选):接云端模型

如果本地模型不够用,也可以接 Claude、ChatGPT、OpenRouter 或任何兼容 OpenAI 接口的服务。官网写着自带 Key 不加价,也可以买 9.99 美元起的预付额度。但要注意:一旦选了云端模型,你的提示词和文件就会发给对应厂商,"不出本机"的承诺就不成立了。

图:官网按 Mac 内存给出的模型建议,斜线表示部分模型从 SSD 流式加载(来源:getlocalcode.app)

图:官网产品演示中的设置页,Where Models Run 选 On Device(来源:getlocalcode.app)

五、硬核部分:376GB 的模型,怎么塞进 Mac?

你可能会问:一个 376GB 的模型,64GB 内存的 Mac 怎么跑得动?

答案是 MoE(混合专家)+ SSD 流式加载。

DeepSeek 是混合专家模型,每次推理只激活一部分"专家"。Local Code 的做法是把最常用的专家留在内存里,其余的从 SSD 按需读取。

README 里写了两条规矩:常驻内存的专家,不超过"总内存减 32GB",也不超过加载时空闲内存的 72%。这样做是给你的其他 App 留出空间,Mac 不至于卡死。

官方给的速度(tokens/秒,前一个数字是"读题",后一个是"写字"):

M5 Max 128GB,DeepSeek 4.1 Flash 1017(2 位):

• 读题(prefill)约 340–355

• 写字(decode)约 16–19

M5 Ultra 256GB,同一个模型:

• 读题约 3800–4600

• 写字约 56–59

作为对比,同一台 M5 Ultra 上,MLX-Serve 和 oMLX 读题大约在 1100–1950。按官方数据,Local Code 在长上下文下快了 2 倍以上。

为什么要盯着"读题速度"?官方 README 解释得很清楚:Agent 每调用一次工具,上下文就变长一截,模型得把整段对话重新"读"一遍才能继续。所以在 Agent 场景里,你等得最多的往往是读题,而不是写字。

至于量化会不会变笨,官方用 2 位版本跑了基准:GPQA Diamond 拿到 93.4%,AIME 2026 是 30/30。不过要说明,这是团队自己跑、自己公布的数据,还没有第三方复现。

图:DeepSeek 4.1 Flash 1017 在 M5 Ultra 上的读题(prefill)速度对比,数据为官方自测(来源:Local Code GitHub README)

六、和其他方案比,差在哪、强在哪?

Local Code
Ollama / LM Studio
Claude Code / Codex 等
定位
推理 + Agent + 工具环境,一体化
主要负责跑模型
Agent 框架,模型多在云端
开箱能干活
能,工具都内置
需要另接 Agent
能,但要配环境、要账号
数据去向
选本地模型时不出本机
本机
通常发往云端
安全边界
苹果沙箱强制隔离
不涉及 Agent
工具自带权限管理
平台
仅苹果设备
跨平台
跨平台
价格
本地免费,开源(GPL-3.0)
免费
订阅或按量付费

一句话总结:Ollama 解决"能跑",Claude Code 解决"能干活",Local Code 想把两件事在本地、在沙箱里一起解决。

七、冷静一下:它的局限和风险

说完优点,AI猫也得泼几盆冷水。

1. 硬件门槛是真实的

16GB 的 Mac 只能跑 Qwen 27B 的 2 位版本。能跑,但和顶级云端模型还有差距。真正"前沿级"的 DeepSeek 4.1 Flash,官方建议 64GB 起,下载就要 376GB 硬盘。

在 MacRumors 评论区,就有人质疑大模型得 512GB 的 Mac Studio 才跑得动。Liu Liu 反驳说,他在 M5 Max 128GB 上跑得很好。不过他自己也承认,不是每个 Mac 用户都这么幸运,体验会因机器而异。

2. "写字"速度还不够快

M5 Max 上每秒十几个 token 的生成速度,处理长任务是需要耐心的。Liu Liu 自己在 X 上说过,DeepSeek 4.1 Flash 本地生成速度得到每秒 200 左右才算有竞争力,Local Code 的生成速度"目前还有待提高"。

3. 开源 ≠ 能自己编译

README 写明:Mac 版是 Mac Catalyst 构建,依赖一个还没公开的打补丁版 Bazel,暂时没法从源码编出 Mac App。现在能自己跑的是命令行版 LocalCodeCLI。代码可以审查,但"人人自己编译一份"暂时还做不到。

4. 沙箱管不住你主动交出去的东西

沙箱限制的是它能碰什么,但你授权的文件夹、让它登录的网站、连上的邮件和日历,都是你亲手放宽的边界。好在 README 写明:在 Mac 上,备忘录、邮件、信息这三项是只读的,它不能修改或发送。即便如此,"帮你登录网站"这类能力还是要谨慎使用。另外,联网搜索、curl、ssh 这些命令执行时是会真实联网的。

5. 只支持苹果生态

Windows 和安卓用户暂时用不上。

八、谁适合用?

强烈建议试试:

• 手里有 32GB 以上内存的 Apple Silicon Mac;

• 经常处理合同、财报、客户资料这类不想上传的文件;

• 想要本地 Agent,又不想折腾环境的人。

可以先观望:

• 只有 8GB 或 16GB 的 Mac,主要追求模型最聪明;

• 主力是 Windows;

• 已经离不开云端顶级模型,对速度很敏感。

九、AI猫的判断

Sam Altman 那段话,从数据中心的角度看并没有错:集中算力,利用率确实更高。

但他漏掉了一个变量:信任。

很多人不愿意把公司财报、合同、病历、私人聊天记录交给任何一家云厂商。不管对方承诺得多好,对这些人来说,"不出本机"本身就是一个功能,而且是愿意为它多买内存的功能。

Local Code 最聪明的地方,不是推理快了几倍,而是重新划分了信任边界:数据不出本机,信任交给苹果,代码对所有人公开。 这三件事加在一起,才让"本地 AI 助手"第一次像个能托付活儿的东西。

当然,它离"人人可用"还很远。16GB 的体验有限,生成速度也还要提。但方向已经很清楚:

云端 AI 越来越强的同时,本地 AI 正在从"能跑"走向"能干活"。

而底下支撑这一切的,是 DeepSeek 和 Qwen 这样的国产开源模型。这可能是这条新闻里,最值得国内读者多想一层的地方。

接下来 AI猫会找机会上手实测,看看 16GB 和 64GB 的 Mac 跑起来到底差多少,到时候给大家出一份实测报告。

你会为了"数据不出本机",多花钱买一台大内存的 Mac 吗?评论区聊聊。

参考来源

1. Draw Things 官方发布文章:Local Code by Draw Things, open-source frontier intelligence locally on your Mac(2026-10-28)https://releases.drawthings.ai/p/local-code-by-draw-things-open-source

2. Draw Things 官方公测文章:Public Beta of Local Code by Draw Things(2026-09-12)https://releases.drawthings.ai/p/public-beta-of-local-code-by-draw

3. Local Code 官网:https://getlocalcode.app/

4. Local Code GitHub 仓库及 README:https://github.com/drawthingsai/local-code-community

5. MacRumors:Local Code Launches as Free, Private AI Assistant Tool for Mac(2026-10-30)及评论区 Liu Liu 回复 https://www.macrumors.com/2026/10/30/local-code-free-private-ai-tool-for-mac/

6. X @morqon 转录的 Sam Altman 讲话片段:https://x.com/morqon/status/2115838856524120128

7. X @geerlingguy(Jeff Geerling)回复:https://x.com/geerlingguy/status/2115888757476102610

8. X @liuliu 关于 App Sandbox 的说明:https://x.com/liuliu/status/2116211210786132358

9. X @localcodeapp 上架 Mac App Store:https://x.com/localcodeapp/status/2116359519538466816

10. X @liuliu"Mac App Store 第一个本地编程 Agent":https://x.com/liuliu/status/2116415508048482800

本文为 AI猫实测室原创整理与评论,数据均引自上述官方来源,未经第三方独立复现。

回首页,搜索你想要的文档

在首页搜索框输入关键词,快速定位资料

文库首页搜索指引 立即搜索

相关学习资料