AI 工具周报 Kimi K3.1 Pro、MiniMax M3.1 Flash 都来了,哪些能在自己电脑上跑

先说结论

6 个新发布都只核对了官方页、没装；个人电脑最有希望跑的是 Flint 和 Bolt E4B

这是第一期周报，时间是 10 月 19 日到 25 日。

第 133 篇，FastH3 Trim 8 步版。 在 ComfyUI 里本地跑 MiniMax H3，重点是 8GB 显存这个门槛。显卡不大、又想本地出图的可以翻回去看。

第 134 篇，OpenCode 免费模型。 不注册、不填 Key，直接在终端里用 OpenCode 的免费模型写代码、修 Bug。实测。想先零成本试试终端 AI 编程的，从这篇开始最省事。

第 135 篇，DeepSeek V4.1 Flash 1017。 这篇是参考教程，没有本地实测，模型太大，我手上没这个条件。主要讲本地部署大概要多少内存，以及 API 和免费模型该怎么选。

第 136 篇，caveman 省 Token。 caveman 4.0.1 接 Codex CLI 0.163.0，三个固定任务开、关各跑一遍。实测结果：input token 少了 25.7%，output 反而多了 5.5%，合计少了约 25.6%，六次结果都对。代价是耗时多了约 107%，差不多慢了一倍。官方说的「少 65%」指的是可读输出的 benchmark，别直接当成账单的降幅。

第 137 篇，PilotDeck 2.0 自托管。 用官方的 Node 一键脚本装在本机，接 DeepSeek API，让 Agent 写一个文件再读回来。实测跑通：大约 2.0 秒文件落盘，整个来回 4.7 秒，用掉 33,731 个 token。最大的体会是，模型接通了不代表工具有权限，得去看文件是不是真的写出来了。

是什么：MiniMax 10 月 19 日发布的原生多模态 MoE 模型，总参数约 428B，每个 token 激活约 23B。能输入文字、图片和视频，上下文最长 1M。现在 Hugging Face 上已经可以下载权重。

为什么值得看：主打便宜和快。官方说推理速度接近上一代的 3 倍，Agent 任务的综合成本低 70%。API 每百万 token 输入 0.15 美元、输出 0.60 美元，命中缓存 0.015 美元。

适合谁：做 Agent、写代码，想找一个便宜多模态 API 的开发者。本地部署就别想了，权重大约 252GB，官方推荐用 SGLang 或 vLLM 在多卡服务器上跑。另外它用的是 MiniMax 自己的社区许可：非商用免费，商用需要署名并通知官方，年收入超过 2000 万美元还要拿书面授权。所以准确地说它是开放权重，不是常说的那种开源。

实测：未实测。

是什么：Mistral 10 月 20 日推出的一组语音模型，目前是 Public Preview。转写有 Small Transcribe 3、Mini Transcribe 3 和实时版 Mini Transcribe Realtime 3，合成是 Mini TTS 3，另外还有一个基于 LiveKit 的语音 Agent SDK。

为什么值得看：转写支持 50 多种语言，能区分谁在说话，也能事先给一批关键词，让专有名词认得更准。官方说实时转写的延迟在 500 毫秒以内。TTS 支持 35 种以上语言、50 多种方言，会根据上下文调整情绪、语速和重音，预设音色里有普通话。价格也不贵：Mini 批量转写每分钟 0.0035 美元，实时版每分钟 0.008 美元，Small 每分钟 0.004 美元，TTS 每百万字符 13 美元。

适合谁：做会议转写、客服电话、语音助手的人。除了走 API，Mistral 也写了可以部署在自己的基础设施上，对数据不想出门的团队有用。

实测：未实测。

是什么：Recursive 10 月 21 日发布的编程模型，专门面向本地跑的编程 Agent。MoE 架构，总参数约 40B，每个 token 只激活约 2.5B，Apache 2.0 许可，权重在 Hugging Face。

为什么值得看：激活参数小，所以快。官方说在 M4 Pro 的 MacBook Pro 上能跑到每秒 125 个 token 以上。官方自报 SWE-bench Verified 74.2%、Terminal-Bench 2.1 54.9%。llama.cpp、Ollama、LM Studio、vLLM、SGLang 都支持。官方自己也提醒了一句：复杂任务最好拆小、指令写明确，它比大的闭源编程模型更需要人带。

适合谁：内存大的 Mac 用户，或者显卡够大、写代码时不想让数据离开本机的人。BF16 完整权重大约 80GB，量化版会小很多，具体要多少内存我还没核实到官方数字，下载前先看清对应版本的说明。我测试用的这台 Linux 机器没有 N 卡，内存 15GB，跑不了。

实测：未实测。

是什么：OpenAI 10 月 23 日发布的 Codex CLI 正式版。

为什么值得看：几个小改动挺实用。新增 /presets，可以存 10 个常用提示词和斜杠命令。/model 和 /permissions 现在能直接带参数，一条命令就能改模型、推理强度和权限。终端支持 Kitty 或 Sixel 的话，可以直接预览图片。远程执行 Bash 时会把凭据遮掉。还修了两个问题：上下文压缩失败时不再留下半截摘要；恢复会话时能找回压缩过的历史，线程设置也不会再被全局默认值覆盖。

适合谁：天天用 Codex CLI 的人，尤其是经常恢复会话、反复敲同一类提示词的。

实测：未实测。第 136 篇测 caveman 用的是 0.163.0，我本机现在还是这个版本，那篇的数据只代表 0.163.0。

是什么：月之暗面 10 月 23 日发布，是 K3 加大后训练之后的版本。官方说是 3T 级的开放权重模型，上下文 1M。同时还出了 Highspeed 版，速度是 K3.1 Pro 的 2 到 3 倍。

为什么值得看：编程能力是这次的重点，官方自报 Terminal-Bench 4.0 拿到 65.7%。现在 Kimi 网页和 App、Kimi Work、Kimi Code 都能用，在 Kimi Code 里用 /model 切过去就行。API 的模型名是 kimi-k3.1-pro 和 kimi-k3.1-pro-highspeed，要先充值（最低 1 美元）才会开通。还有个细节：官方说开放权重版在训练时专门去掉了网络攻击相关的数据，用来降低被滥用的风险。

适合谁：重度用编程 Agent 的人，以及做前端页面、3D 内容和金融研究的人。完整权重官方说 11 月 4 日前放出，现在还下不到。就算放了，3T 级别个人电脑也基本跑不动。

实测：未实测。

是什么：NVIDIA 10 月 23 日放上 Hugging Face 的小模型，在 Google Gemma 4 E4B 的基础上继续训练。8B 参数，官方称有效参数 4B。发布的是 Q4_K_M 量化的 GGUF，上下文 64K，输入输出都是纯文本。

为什么值得看：定位很明确，就是本地语音助手和设备上的助手。思考模式可以开关，还有一个「对话模式」，回答更短、格式更少，适合直接念出来。官方说重点改进了多轮工具调用和指令遵循。后训练的语言里有中文，许可证是 OpenMDW-1.1，官方写明可以商用。

适合谁：想在小显卡或边缘设备上做本地语音助手、工具调用助手的人。注意名字里写着 4GB，但这个 GGUF 文件实际约 6.2GB，下载前留够空间。

实测：未实测。官方示例用的是 llama.cpp 的 CUDA 版，我测试用的机器没有 N 卡，CPU 上跑得顺不顺要试了才知道。

这 6 个里我最想上手的是 Nemotron Bolt E4B，体积小，最有希望在我那台没有 N 卡的测试机上跑起来，打算先在 CPU 上试试。Kimi K3.1 Pro 等权重放出来再看。

延伸阅读

本周文章：

想继续看 AI 工具的本地部署和上手实操，可以关注一下。

下一篇聊 Qwen-Image。

我是 dennis，一直在分享 AI 工具的本地部署和上手实操。