最近(6月13日)HN上有个帖子很火——「如何搭建本地编程Agent」,247分。评论区一堆人说「终于不用把所有代码上传到云端了」。
今天就手把手教你,怎么在自己的机器上搭一个本地AI编程助手,代码不出门、不花钱。
——
▎什么是本地Coding Agent?
简单说,就是在你电脑上跑一个AI,它能读你的代码、帮你改代码、甚至自己写代码。
跟ChatGPT/Cursor的区别:
• ChatGPT:你要复制粘贴代码过去
• Cursor:云端处理你的代码
• 本地Agent:代码全在你自己电脑上,不联网
——
▎你需要准备什么?
硬件要求不高:
• 内存16GB以上(32GB更舒服)
• 有显卡最好(没有也能跑,就是慢点)
• 硬盘留50GB以上
软件三件套:
1. Ollama(跑模型的引擎)
2. Continue(VS Code的AI插件)
3. 一个开源模型(推荐DeepSeek Coder或Qwen2.5-Coder)
——
▎第1步:装Ollama
打开终端,一行命令:
curl -fsSL https://ollama.com/install.sh | sh装完后验证:
ollama --version看到版本号就对了。
如果用macOS,也可以用Homebrew:
brew install ollama【避坑指南】
• Linux用户注意:安装脚本需要sudo权限
• Windows用户建议用WSL2,不要直接在cmd装
——
▎第2步:下载模型
Ollama装好后,拉一个代码专用的模型:
# DeepSeek Coder V2(推荐,代码能力最强,16GB能跑)ollama pull deepseek-coder-v2:16b# 或者Qwen2.5-Coder(更轻量,12GB就能跑)ollama pull qwen2.5-coder:14b
下载时间取决于网速,模型大约9-16GB,可以先去泡杯茶。
下载完测试一下:
ollama run deepseek-coder-v2:16b "写一个Python函数,判断一个数是不是素数"能正确输出代码就成功了。
【避坑指南】
• 16b模型显存不够可以试7b:deepseek-coder-v2:7b
• 下载太慢?换个镜像源:export OLLAMA_HOST=http://mirror.example.com
——
▎第3步:装VS Code + Continue插件
VS Code去官网下载安装,装好后打开扩展市场,搜「Continue」:
code --install-extension continue.continueContinue是目前最好用的本地AI编程插件,支持连Ollama。
装好后打开Continue配置文件(左下角齿轮→设置→搜continue),加上:
{"models": [{"title": "DeepSeek Coder","provider": "ollama","model": "deepseek-coder-v2:16b"}],"tabAutocompleteModel": {"title": "Qwen2.5-Coder","provider": "ollama","model": "qwen2.5-coder:14b"}}
【避坑指南】
• Continue默认走云端API,必须手动改成ollama provider
• tabAutocompleteModel建议用轻量模型,7b就够了,响应更快
——
▎第4步:开始用!
在VS Code里打开一个项目,试试这些操作:
• 选中一段代码 → 按Ctrl+I → 输入「优化这段代码」
• 在代码中间按Tab → 自动补全下一段
• 打开聊天面板(Ctrl+Shift+P → Continue: Open Chat)→ 问项目架构
实测效果:
• 代码补全:基本秒出(<1秒)
• 行内编辑(Ctrl+I):2-3秒出结果
• 聊天问答:16b模型约5-10秒
——
▎性能对比
——
▎升级玩法:接MCP工具
如果你用的是Hermes Agent,还可以把本地模型接进MCP,让AI直接操作你的文件系统、数据库。
配置方法:
# 在Hermes config.yaml里加model:default: local-coderprovider: ollamabase_url: http://localhost:11434model: deepseek-coder-v2:16b
这样Hermes就能用本地模型执行编程任务,代码完全不出机器。
【避坑指南】
• Ollama默认只监听localhost,安全但有远程需求要改配置
• 开多个模型会吃显存,建议一次只跑一个
• 代码补全模型和对话模型可以不同
别在AI浪潮中掉队!关注我,一起抢占AI时代红利。🚀
夜雨聆风