4GB显存能跑本地AI吗?我实测了5款工具

那4GB显存的普通电脑呢？集成显卡呢？

这次我拿来一台4GB显存的机器，把5款最常被推荐的本地AI工具全装了一遍，从字幕转写到AI绘画到声音克隆，逐个跑了一遍真实任务。结论是：能跑，但每款工具的体验差别极大，选错工具会直接劝退。

下面是完整的实测记录和选型建议。

一、测试电脑配置

这次测试用了两套配置做对比，目的就是看看"底线"在哪：

为什么选这两套？ 因为它们代表了"最差情况"和"及格线"。如果你手里的机器比这强，那下面的结论对你只会更乐观。

测试中我重点关注三个问题：

1. 能不能装上、能不能跑起来？
2. 跑起来之后速度能不能接受？
3. 产出的结果能不能直接用？

二、五款工具结论表

先放结论，省得你从头读到尾。5款工具的核心对比：

一句话总结：Buzz和LM Studio是4GB显存的首选入门，ComfyUI和GPT-SoVITS是进阶挑战，AnythingLLM看需求再装。

三、每款工具的真实优缺点

1. Buzz —— 最该第一个装的工具

做什么： 用Whisper模型在本机转写音视频，导出SRT字幕。

优点：

• 安装简单，下载即用，不需要折腾环境
• 硬件压力极低（2/5），集成显卡也能跑
• 实用程度满分（5/5），视频作者和会议整理刚需
• 离线运行，音频不出本机

缺点：

• 专有名词、品牌名、人名容易识别错
• 有背景音乐的录音准确率明显下降
• 结果必须人工校对，不能直接交付

实测建议： 先准备30—60秒清晰中文音频测试，确认结果能用于剪辑再继续。

2. LM Studio —— 本地聊天的最佳起点

做什么： 图形化界面运行本地语言模型，支持模型下载和本地API服务。

优点：

• 界面友好，像用ChatGPT一样简单
• 安装难度低（2/5），下载模型即用
• 支持多种模型格式，灵活切换
• 可以给其他工具提供本地模型服务

缺点：

• 小模型（3B/4B）的能力远不如云端大模型
• 4GB显存能跑的模型有限，大模型会爆显存
• 首次下载模型需要联网，体积可能很大

实测建议： 从3B或4B量化模型开始，先测试摘要、改写和简单问答，不要第一天就下载几十GB模型。

3. AnythingLLM —— 有文档需求再装

做什么： 把PDF、笔记和项目文档做成本地知识库，支持RAG问答。

优点：

• 真正的"喂文档给AI"的完整方案
• 工作区设计合理，适合长期整理资料
• 可以复用LM Studio的本地模型，不重复加载

缺点：

• 配置容易搞混：语言模型、嵌入模型、向量数据库三个地方都要选本地
• 界面写着"本地"，但默认可能连云端API，需要仔细检查
• 没有真实文档需求时，装了只会增加复杂度

实测建议： 先装LM Studio跑通本地模型，再装AnythingLLM连接使用。没有一批需要反复查询的文档，就先别装。

4. ComfyUI —— 4GB显存能跑，但要妥协

做什么： 节点式AI绘画与图像工作流，自由度极高。

优点：

• 工作流可复用、可分享，专业度最高
• 低显存模式下4GB也能出图
• 社区工作流资源丰富

缺点：

• 学习成本高（4/5），节点连接逻辑需要时间理解
• 硬件压力最大（5/5），模型和工作流升级会迅速吃满显存
• SDXL、FLUX等新模型基本告别4GB显存
• 出图慢，需要耐心

实测建议： 4GB显存下必须用SD1.5级别模型，512×512尺寸，一次1张。具体参数看下一节。

5. GPT-SoVITS —— 效果惊艳但门槛最高

做什么： 用参考录音生成相近音色的语音，支持本地TTS。

优点：

• 零样本模式下5—10秒参考音频就能出效果
• 本地运行，声音数据不出本机
• 适合本人配音、授权角色音色

缺点：

• 安装难度满分（5/5），依赖多、环境复杂
• 硬件压力大（4/5），4GB显存训练基本不用想
• 音色相似≠情绪和停顿自然，短音频效果不稳定
• 安全提醒：只使用本人声音或已获得明确授权的素材，不要用于冒充、欺骗或误导

实测建议： 先用本人5—10秒干净录音做零样本测试，确认效果和用途后再决定是否投入更多。

四、4GB显存ComfyUI建议参数

这是整篇文章最实用的部分。4GB显存跑ComfyUI，核心原则就一个字：省。

建议参数：

低显存启动参数：

.\python_embeded\python.exe -s ComfyUI\main.py --windows-standalone-build --lowvram

基于官方便携版启动文件修改，加上 --lowvram 参数。参数名称可能随版本变化，以官方文档为准。

怎么判断"能用"？ 不是打开界面就算成功。连续生成两次不崩溃、耗时可接受、成图满足用途——三个条件全满足，才算实际可用。

五、按配置选择工具

不同配置该先装什么？这里直接给建议：

集成显卡 / 0GB显存：

• 首选 Buzz（字幕转写），CPU就能跑
• 可以试 LM Studio（用小量化模型，速度慢但能用）
• ComfyUI 不建议作为第一项任务
• GPT-SoVITS 零样本测试可以试，训练就别想了

4GB显存：

• Buzz + LM Studio 先跑通，建立正反馈
• 有文档需求再装 AnythingLLM
• ComfyUI 用SD1.5 + 低显存模式可以出图
• GPT-SoVITS 先零样本测试

8GB及以上显存：

• 上面全部可以装
• ComfyUI 可以从SD1.5开始，逐步尝试更高要求模型
• GPT-SoVITS 可以尝试短素材训练

通用原则：不要按"最强"选择，先按任务选择，再按配置选择模型。 能够稳定完成工作，比下载一个电脑带不动的大模型更重要。

推荐安装顺序：

1. Buzz —— 先做一份字幕，拿到第一个成果
2. LM Studio —— 跑通小模型聊天，建立信心
3. AnythingLLM —— 有文档需求时再装
4. ComfyUI / GPT-SoVITS —— 最后挑战高难度工具

六、HTML工具箱入口

这篇文章的内容我做成了一个离线可用的HTML工具箱，打开就能用：

• 根据你的内存、显存和任务，自动推荐先装哪个工具
• 5款工具的官方入口汇总
• 4GB显存ComfyUI参数一键复制
• 常见报错排查指南
• 可编辑的实测记录表

获取方式： 关注公众号回复「本地AI」获取HTML文件，双击即可打开，无需联网。

最后说三句话：

第一，本地运行不等于完全免费——模型和软件更新都需要联网下载。

第二，能运行不等于流畅——速度取决于模型大小、量化方式、内存、显存和散热。

第三，不要一次全装——先选一个能解决当前任务的工具，成功完成一次真实任务后再扩展。

先完成一次，再继续折腾。