白嫖一个AI编程助手!Tabby 零基础部署使用教程

用了 GitHub Copilot 的朋友都知道,AI 帮你写代码确实爽。但有两个问题:一是要付费(10 美元一个月),二是所有代码都要上传到微软的服务器。
对于普通开发者来说,Copilot 价格不算低。对于企业来说,代码外传更是红线。
Tabby 就是这两类问题的最优解。它是一个完全开源的自托管 AI 编程助手,GitHub 33.5k 星,你把它部署在自己的服务器上,代码不离开你的电脑,而且——完全免费。
第一步:准备工作
部署 Tabby 需要两样东西:
1. 一台电脑或服务器(甚至可以用自己的开发机)
2. Docker(推荐)或者直接运行
安装 Docker 不会的话,去 docker.com 下载 Docker Desktop 安装就行,很简单。
第二步:5 分钟部署 Tabby
有 GPU 的电脑(推荐)
如果你有一张 NVIDIA 显卡(比如 RTX 3060 或更高),就用这个命令:
docker run -it --gpus all -p 8080:8080 \-v $HOME/.tabby:/data \tabbyml/tabby serve \--model StarCoder-1B --device cuda
没有 GPU 的电脑(CPU 模式)
没有独立显卡也不怕,用 CPU 也能跑:
docker run -it -p 8080:8080 \-v $HOME/.tabby:/data \tabbyml/tabby serve \--model StarCoder-1B --device cpu
Mac 电脑(M1/M2芯片)
docker run -it -p 8080:8080 \-v $HOME/.tabby:/data \tabbyml/tabby serve \--model StarCoder-1B --device metal
看到提示 "Tabby server started" 就说明部署成功了。现在打开浏览器访问 http://localhost:8080,能看到 Tabby 的管理面板。
第三步:在 VS Code 里配置使用
部署好之后,接下来在 VS Code 里配置一下就能用了:
1. 打开 VS Code
2. 按 Ctrl+Shift+X 打开插件市场
3. 搜索 "Tabby"(蓝底白猫图标那个)
4. 点击安装
5. 安装完成后,按 Ctrl+Shift+P 打开命令面板
6. 搜索 "Tabby: Set Server URL"
7. 输入你的 Tabby 地址(如果是本地部署,输入 http://localhost:8080)
8. 搞定!
现在你在 VS Code 里写代码,Tabby 会自动给出代码建议。看到灰色的建议文字时——按 Tab 接受,按 Esc 忽略。和 Copilot 的用法一模一样。

第四步:日常使用技巧
让代码建议更准确
Tabby 支持"仓库级上下文"——它会分析你当前打开的项目,理解你的代码风格。项目越大,建议越准。建议打开项目后再写代码,不要只打开一个文件。
问 Tabby 问题(聊天模式)
Tabby 还内置了一个问答引擎。在 VS Code 的 Tabby 聊天面板里,你可以像问 ChatGPT 一样提问: • "这段代码怎么优化?" • "帮我写一个排序函数" • "这个错误是什么意思?"
在聊天框里输入 @ 符号,还可以引用当前文件作为上下文,回答会更准确。
管理面板怎么看?
打开 http://localhost:8080 可以看到: • 使用统计:谁的代码补全用得最多 • 活动日志:实时的 API 调用情况 • 设置页面:切换模型、调整参数
换成更好的模型
Tabby 支持多种模型。默认的 StarCoder-1B 是小模型,速度最快、最省内存。如果想要更好的效果,可以换大一点的模型,比如 Qwen2-1.5B、CodeLlama-7B。
把启动命令里的 --model StarCoder-1B 改成 --model Qwen2-1.5B-Instruct 就行了。注意大模型需要更多内存和显存。
💡 如果觉得部署麻烦,可以先从最简单的 CPU + StarCoder-1B 开始尝试,跑起来之后再加 GPU、换大模型,循序渐进来。
夜雨聆风