乐于分享
好东西不私藏

19.5K星隐私AI会议助手杀出 Rust打造零云端 免费AI网关OmniRoute省90%调用费

19.5K星隐私AI会议助手杀出 Rust打造零云端 免费AI网关OmniRoute省90%调用费

👆关注「科技第一时」,每周精选开源好项目

今天聊两个AI基础设施赛道上冒出来的新星——一个让你彻底摆脱云端AI会议的隐私焦虑,另一个帮你用十分之一的成本调用各种AI模型。一个是Rust打造的纯本地AI会议助手,一个是231+供应商的免费AI网关。各有各的狠活。


01 meetily 19.5K⭐ 不开网络也能开的AI会议

开会时不敢开AI助手,怕语音数据传到云端?这是所有职场人面对AI会议工具时的真实焦虑。

meetily 就是冲着这个痛点来的——一款100%本地的AI会议助手,不需要任何网络连接就能完成语音转文字、会议摘要、行动项提取。

什么人做的

Zackriya Solutions团队花了一年多打磨,底层用Tauri(Rust+WebView)构建桌面壳,前端Next.js,语音识别引擎用Candle框架在本地跑Parakeet/Whisper模型。核心设计理念就是一句话:你的语音数据,永远不离开你的电脑。

跑得有多快

官方测试数据:同等配置下,meetily的本地推理速度比OpenAI Whisper API快4倍。支持GPU加速——Apple Silicon用Metal后端、NVIDIA用CUDA、AMD和Intel走Vulkan——几乎覆盖了所有现代硬件。实测在M2 Pro MacBook Pro上,一个45分钟的会议,转录+摘要全流程只需要不到3分钟。

不止是转录

meetily不是那种"录完扔给你一段文字"的偷懒产品。它内置了:
- 实时字幕(开会时就能看到文字)
- 智能会议摘要(自动提取关键决策、待办事项、风险点)
- 说话人识别(区分谁说了什么)
- 日历集成(支持Google Calendar、Outlook、Apple Calendar)
- Markdown导出和一键分享

AI模型支持

虽然转录是纯本地的,但摘要部分可以用你选的大模型——支持Ollama本地模型、Claude、Groq、OpenRouter、OpenAI。如果你追求极致隐私,可以完全用Ollama跑本地LLM做摘要,整个流程零网络请求。

多平台

macOS、Windows、Linux全覆盖。而且它是MIT开源协议——企业可以直接拿去定制,不用担心里面藏了什么回传后门的逻辑。

实用场景

  • 法务/律师团队(会议内容高度敏感)
  • 金融/投行(合规要求不允许数据出域)
  • 内部敏感会议(董事会、薪酬讨论)
  • 需要离线工作的场景(出差飞机上、无网络会议室)

💡 在Ray-Ban Meta火爆、每个人都在往AI系统里塞数据的今天,meetily选择了一条"反向操作"的路——不是加更多云服务,而是帮用户锁死数据不出门。AI应用的下一波竞争,可能不是谁更智能,而是谁更值得信任。


02 OmniRoute 12.6K⭐ 一个客户端调用231个AI模型 免费方案省90%费用

如果你同时在用ChatGPT、Claude、Gemini、Grok、DeepSeek……你的桌面大概已经开了五个网页标签、记了三张API Key纸条了。

OmniRoute 的解决方式简单粗暴:一个统一网关,管你背后是哪个模型的API,开发者只用面对一个端点一个Key。

231+ 供应商,50+ 免费

这个数字在持续更新。OmniRoute v3.8.45(7月6日刚发布)聚合了231个AI服务商,其中50多个提供免费模型额度。涵盖主流聊天模型、图像生成、语音识别、视频生成、代码补全——基本上你叫得上名字的AI服务都有入口。

省钱才是硬道理

OmniRoute最炸裂的功能是它的「叠加压缩引擎」——RTK(实时令牌压缩)+ Caveman堆叠压缩的组合,平均节省15%到95%的令牌用量。对于高频调用API的团队来说,这意味着同样的功能,花费可能只剩十分之一

三方工具兼容

即使你不用OmniRoute的客户端,它也可以直接作为OpenAI兼容的端点使用——Claude Code、OpenAI Codex、Cursor、Continue.dev等主流AI编码工具都能直接连。只需要把API端点换成OmniRoute的地址,整个团队的AI工具链就统一了。

技术细节

  • 4,545次提交,309个版本标签,非常活跃
  • 内置「Skills」系统,支持编写自定义AI工作流
  • Electron桌面客户端 + CLI命令行工具
  • 支持Open-SSE协议
  • 自带AGENTS.md、CLAUDE.md、GEMINI.md等开发文档(对不同AI agent做了适配)

谁该用

  • 团队同时用多个AI模型做不同任务
  • 想控制API预算、不想被单一供应商锁定的开发者
  • 有模型切换需求的产品(A/B测试不同模型的回答质量)
  • 独立开发者,想免费白嫖各平台的免费额度

💡 AI行业的"基础设施化"正在加速。OmniRoute的出现说明一个趋势:模型本身的差异化越来越小,真正的竞争在"编排层"——谁让开发者用得更爽、花得更少、切换更自由。这就是中间件的胜利。


开源专栏实用工具箱

项目 Star 核心亮点 适用人群
meetily 19.5K Rust/Tauri纯本地AI会议,无云端偷听,4x快 注重隐私的团队、法务、金融
OmniRoute 12.6K 231+供应商统一网关,50+免费,省90%令牌 AI开发者、多模型团队

写在最后

今天这两个项目有一个共同点:都是"中间件"。

meetily不做云端的AI会议伴侣,而是把转录AI装进你的电脑里——这是隐私中间件。OmniRoute不造模型,而是让231种模型的调用统一到一个入口、省90%的钱——这是技术中间件。

在AI的"淘金热"里,卖铲子的人和挖金子的人同样重要。这两个项目就是那两把好铲子。

项目地址:
- meetily: https://github.com/Zackriya-Solutions/meetily
- OmniRoute: https://github.com/diegosouzapw/OmniRoute