用 AI 要装一堆客户端?
把 AI 聊天和 API 网关合二为一
一个桌面应用全装下
跨平台 · 多模型 · Agent · 本地网关
AI 聊天 + AI 网关桌面
📦 5 Parts + Conclusion
👉 滑动
PART 01
多模型接入
一个客户端
PART 02
Agent 模式
三级权限
PART 03
知识库记忆
RAG 联网
PART 04
API 网关
本地后端
PART 05
谁适合它
三类人适用
PART ///
写在最后
好用可控
一句话说清它
一个桌面应用,把 AI 对话、Agent、知识库和 API 网关全收进去
如果你同时是重度 AI 用户和开发者,大概率有过这种拧巴的体验:写代码时要在几个工具之间来回切——一个客户端跟模型聊天,一个中转站管 API Key,再开一个终端跑 Agent 脚本。窗口切来切去,思路也跟着断。

今天拆的这套「AI 聊天 + AI 网关桌面」源码,思路很干脆:把对话、Agent、知识库、API 网关这些能力,收进同一个轻量桌面应用。下面我把它一层层拆开说清楚。
01
PART
一个客户端,把主流模型全接进来
ONE CLIENT · 多模型接入
很多人对 AI 客户端的期待其实不高:能用、别卡、别把我的 Key 搞丢。这套源码在这三件事上都下了功夫。
它兼容OpenAI、Claude、Gemini,以及所有 OpenAI 兼容接口的模型。这意味着你不用在官方网页、各家客户端之间来回登录,一个窗口就能换着模型聊。模型列表支持远程拉取,温度、最大 Token、Top-P 这些参数都能自己调。

最实用的是多密钥轮询——同一个供应商可以配多把 API Key,请求自动轮换。这把「限流」「封号」这种高频烦恼从根上缓解了不少。输出走流式,逐 Token 渲染,思考过程还能折叠展开,看着不累。
02
PART
让 AI 真正「动手」的 Agent 模式
AGENT MODE · 权限与沙箱
如果只是聊天,那它还是个普通客户端。让它拉开差距的,是Agent 模式。切过去之后,AI 可以自主执行多步骤任务:读写文件、运行命令、分析代码。但「自主」两个字最容易踩的坑是失控,这套源码用三层设计把风险摁住了。
三级权限
默认模式下写入需审批,接受编辑模式自动批准修改,完全访问模式无提示。
工作目录沙箱
Agent 的操作被严格限制在指定目录内,越权访问会被挡下。
工具审批面板
每一次工具调用请求都实时展示,可以逐条审核,也能一键始终允许或拒绝。
再加上每次会话实时统计 Token 用量和费用,钱花在哪、花了多少一目了然。这一套组合,是我见过把「Agent 能力」和「安全边界」平衡得比较舒服的方案。
03
PART
知识库、记忆、联网搜索都齐了
KNOWLEDGE · RAG 与记忆
光会聊天还不够,它把「让 AI 更懂你」的几条路也铺好了。
本地知识库(RAG)
支持建多个知识库,上传文档后自动解析、分段、建索引,对话时按语义检索相关段落。
记忆系统
支持多命名空间记忆,手动添加或让 AI 自动提取。
联网搜索
集成 Tavily、智谱 WebSearch、Bocha 等,结果附带引用来源标注。
这些能力单看都不稀奇,稀奇的是它们被装进了同一个界面,不用再拼一堆第三方插件。
04
PART
内置 API 网关,当后端用
API GATEWAY · 本地后端
这套源码后半段的重量级功能,是它内置了一个本地 API 网关。它相当于一个 OpenAI 兼容的本地 API 服务器,Claude、Gemini 等原生接口也支持,任何兼容客户端都能把它当后端用。
配套的密钥管理可以生成、撤销、启停访问密钥,还带描述备注;用量统计按密钥、供应商、日期三个维度出分析;请求日志完整记录进出网关的每一次调用。
对开发者来说,这意味着你可以在本地架一个自己的模型接入层,团队内共享,成本可控、日志透明。它还内置自签名证书生成,也支持挂载自定义证书,把 HTTPS 这条也照顾到了。
另外还有两处加分项:完整实现MCP 协议(stdio 和 HTTP 两种传输都支持),以及预置了 Claude、Codex、OpenCode、Gemini 这些常见 CLI 工具的接入配置模板。拿来即用,省了不少对接的功夫。
05
PART
谁适合用它
WHO NEEDS IT · 适用人群
多模型开发者
一个窗口换模型
Agent 使用者
怕失控有沙箱
站长/团队
自建模型接入层
有两点得客观说:第一,它本质是桌面客户端,不是 Web 服务,团队多人用要自己规划部署方式;第二,实时语音对话还标注着「即将推出」,冲着语音去的人可以再等等。
///
LAST
写在最后
SUMMARY · 好用与可控
回头看这套源码的价值,不在于某一个功能有多惊艳,而在于它把 AI 日常工作流里散落的能力,收拢到了一个轻量、可控、开源的桌面工具里。
对工具来说,能把「好用」和「可控」同时做到,就已经赢了大多数。
把散落的能力收拢,把好用和可控同时做到
资源来源:bbbb.bid/38766.html
关注星标公众号不定期分享各种源码「回复消息」查看原始资源
夜雨聆风