AI 工具台|本地 AI 二选一,第一次装谁?

两款都能把模型和文件留在电脑里。这里的“本地模型”，就是答案在你的机器上算，不把问题交给云端服务器。区别在于：Jan 更像装好就聊的本地 ChatGPT；AnythingLLM 更像给资料库配了一位管理员。

01上手：Jan 赢

Jan 首次启动会自动下载默认模型，左栏的 Hub 还会直接标出模型“能跑、可能慢、跑不动”。macOS 要求 Apple Silicon 与 macOS 13.6 以上；8GB 内存通常适合 3B 模型，16GB 更适合 7B。Windows 10 以上可用，官方建议 16GB 内存。

AnythingLLM 的桌面安装同样是一键式，但如果你要本地文档问答，还会碰到模型、嵌入模型和向量库。嵌入模型可以理解成“给每段文字做坐标”，方便从一堆文件里捞出最相关的几段。官方给基础体验的建议是 16GB 内存与 8 核 CPU。

📎 Jan Quickstart · AnythingLLM 系统要求 · 2026-08-05

◆ ◆ ◆

02文件：AnythingLLM 赢

临时读一份合同、给三篇报告提共同结论、把课程资料按主题归档，Jan 的 Projects 已经够用：把 PDF、Word、Excel、PPT 或 Markdown 放进项目，后续对话都能引用。

到了长期资料库，AnythingLLM 更顺手。它有工作区、RAG、Agent 和网页抓取。RAG 的大白话是：先从你的文件里找证据，再让模型照着证据回答。Desktop 适合一个人；Docker 版才有多人、权限和开发 API。

📎 Jan 文件上传 · AnythingLLM Desktop 概览 · 2026-08-05

◆ ◆ ◆

03价格：都能免费

Jan 的桌面端免费，没有自动续费。本地模型也没有按次额度，成本是下载空间、电量和等待时间；若填入 OpenAI、Anthropic 等 API Key，费用由对应供应商另算。

AnythingLLM Desktop 与 Docker 自托管免费。需要官方托管的团队再看 Cloud：Basic 50 美元/月，Pro 99 美元/月，Enterprise 联系销售。对个人读文件，先花 0 元，别一上来就给订阅按钮交保护费。

📎 Jan 官网 · AnythingLLM Cloud 价格 · 2026-08-05

◆ ◆ ◆

04隐私：看你选谁算

Jan 官方隐私页写得很直：本地聊天、日志和文件留在电脑；切到云模型，内容就会发往那家 API。AnythingLLM 也能全本地，但会收集匿名遥测，你可以在设置里关闭。删除资料时还要注意：从工作区移除只删该工作区的向量；要彻底清除解析文本和缓存，得去 My Documents 删除原文件。

本地模式没有云平台拿你的内容训练这一环。只要切到云端，是否留存、是否训练就按那家模型供应商的条款走。机密文件上传前，先看当前模型名称，别嘴上说本地，手上却选着云 API。

📎 Jan 隐私说明 · AnythingLLM 隐私与数据 · 2026-08-05

🛠先用 Jan 跑起来

1下载对应安装包

打开 Jan 官网 点 Download，选择 Mac、Windows 或 Linux；下载完成后会看到安装文件。

2安装并打开 Jan

Mac 把 Jan 拖进 Applications；Windows 运行 exe。打开后默认模型会自动下载，完成时聊天框可直接输入。

3核对模型能否顺跑

点左栏 Hub，看模型旁的 Fits、May be slow 或 Won't fit。先选 Fits；下载结束后，它会出现在聊天顶部的模型选择器。

4建一个资料项目

按 ⌘P 或点左栏 New Projects，取名“合同核对”；右侧会出现 Files 面板。

5加入一份文件

在 Files 点 Add，选择 PDF 或 Word。等进度条走完，文件名旁会显示大小和分块数。

6让它带出处回答

输入“列出付款、违约和自动续约条款，逐条引用原文；找不到就说找不到”。预期结果是三类条款与对应原句，方便你回到文件复核。

⚠️坑与边界

• 模型下载时间不算“操作时间”；文件越大、网速越慢，等待越久。
• Jan 的高级控制较少，用户 @boug_bob974 直说它“太简单”；想细调资料库，AnythingLLM 更合适。
• AnythingLLM 的导入也会翻车：用户 @psynenboy 在 2026-08-04 抱怨 Markdown 载入不顺、只见文件夹增加。
• 本地小模型会漏条款和胡编引用；合同、医疗、财务结论必须回原文核对。

📎 Jan 用户反馈 · AnythingLLM 用户反馈

🔁三种情况怎么选

• 第一次装本地 AI，只想聊天和读几份文件：选 Jan。
• 要维护长期资料库、多个工作区或 Agent：选 AnythingLLM。
• 不想下载模型、电脑内存偏小：两款都可接云 API，但要接受按量收费和数据出机。

— AI 三餐 · 明天中午加菜 —