乐于分享
好东西不私藏

想自己搭一个AI编程助手?手把手教你配本地Coding Agent

想自己搭一个AI编程助手?手把手教你配本地Coding Agent

最近(6月13日)HN上有个帖子很火——「如何搭建本地编程Agent」,247分。评论区一堆人说「终于不用把所有代码上传到云端了」。

今天就手把手教你,怎么在自己的机器上搭一个本地AI编程助手,代码不出门、不花钱。

——

▎什么是本地Coding Agent?

简单说,就是在你电脑上跑一个AI,它能读你的代码、帮你改代码、甚至自己写代码。

跟ChatGPT/Cursor的区别:

• ChatGPT:你要复制粘贴代码过去

• Cursor:云端处理你的代码

• 本地Agent:代码全在你自己电脑上,不联网

——

▎你需要准备什么?

硬件要求不高:

• 内存16GB以上(32GB更舒服)

• 有显卡最好(没有也能跑,就是慢点)

• 硬盘留50GB以上

软件三件套:

1. Ollama(跑模型的引擎)

2. Continue(VS Code的AI插件)

3. 一个开源模型(推荐DeepSeek Coder或Qwen2.5-Coder)

——

▎第1步:装Ollama

打开终端,一行命令:

curl -fsSL https://ollama.com/install.sh | sh

装完后验证:

ollama --version

看到版本号就对了。

如果用macOS,也可以用Homebrew:

brew install ollama

【避坑指南】

• Linux用户注意:安装脚本需要sudo权限

• Windows用户建议用WSL2,不要直接在cmd装

——

▎第2步:下载模型

Ollama装好后,拉一个代码专用的模型:

# DeepSeek Coder V2(推荐,代码能力最强,16GB能跑)ollama pull deepseek-coder-v2:16b# 或者Qwen2.5-Coder(更轻量,12GB就能跑)ollama pull qwen2.5-coder:14b

下载时间取决于网速,模型大约9-16GB,可以先去泡杯茶。

下载完测试一下:

ollama run deepseek-coder-v2:16b "写一个Python函数,判断一个数是不是素数"

能正确输出代码就成功了。

【避坑指南】

• 16b模型显存不够可以试7b:deepseek-coder-v2:7b

• 下载太慢?换个镜像源:export OLLAMA_HOST=http://mirror.example.com

——

▎第3步:装VS Code + Continue插件

VS Code去官网下载安装,装好后打开扩展市场,搜「Continue」:

code --install-extension continue.continue

Continue是目前最好用的本地AI编程插件,支持连Ollama。

装好后打开Continue配置文件(左下角齿轮→设置→搜continue),加上:

{"models": [{"title": "DeepSeek Coder","provider": "ollama","model": "deepseek-coder-v2:16b"}],"tabAutocompleteModel": {"title": "Qwen2.5-Coder","provider": "ollama","model": "qwen2.5-coder:14b"}}

【避坑指南】

• Continue默认走云端API,必须手动改成ollama provider

• tabAutocompleteModel建议用轻量模型,7b就够了,响应更快

——

▎第4步:开始用!

在VS Code里打开一个项目,试试这些操作:

• 选中一段代码 → 按Ctrl+I → 输入「优化这段代码」

• 在代码中间按Tab → 自动补全下一段

• 打开聊天面板(Ctrl+Shift+P → Continue: Open Chat)→ 问项目架构

实测效果:

• 代码补全:基本秒出(<1秒)

• 行内编辑(Ctrl+I):2-3秒出结果

• 聊天问答:16b模型约5-10秒

——

▎性能对比

模型
最低内存
补全速度
代码质量
DeepSeek Coder V2 16b
16GB
⭐⭐⭐⭐⭐
Qwen2.5-Coder 14b
12GB
极快
⭐⭐⭐⭐
DeepSeek Coder V2 7b
8GB
极快
⭐⭐⭐
CodeGemma 7b
8GB
极快
⭐⭐

——

▎升级玩法:接MCP工具

如果你用的是Hermes Agent,还可以把本地模型接进MCP,让AI直接操作你的文件系统、数据库。

配置方法:

# 在Hermes config.yaml里加model:default: local-coderprovider: ollamabase_url: http://localhost:11434model: deepseek-coder-v2:16b

这样Hermes就能用本地模型执行编程任务,代码完全不出机器。

【避坑指南】

• Ollama默认只监听localhost,安全但有远程需求要改配置

• 开多个模型会吃显存,建议一次只跑一个

• 代码补全模型和对话模型可以不同


别在AI浪潮中掉队!关注我,一起抢占AI时代红利。🚀