👆关注「科技第一时」,每周精选开源好项目
今天聊两个AI基础设施赛道上冒出来的新星——一个让你彻底摆脱云端AI会议的隐私焦虑,另一个帮你用十分之一的成本调用各种AI模型。一个是Rust打造的纯本地AI会议助手,一个是231+供应商的免费AI网关。各有各的狠活。
01 meetily 19.5K⭐ 不开网络也能开的AI会议
开会时不敢开AI助手,怕语音数据传到云端?这是所有职场人面对AI会议工具时的真实焦虑。
meetily 就是冲着这个痛点来的——一款100%本地的AI会议助手,不需要任何网络连接就能完成语音转文字、会议摘要、行动项提取。
什么人做的
Zackriya Solutions团队花了一年多打磨,底层用Tauri(Rust+WebView)构建桌面壳,前端Next.js,语音识别引擎用Candle框架在本地跑Parakeet/Whisper模型。核心设计理念就是一句话:你的语音数据,永远不离开你的电脑。
跑得有多快
官方测试数据:同等配置下,meetily的本地推理速度比OpenAI Whisper API快4倍。支持GPU加速——Apple Silicon用Metal后端、NVIDIA用CUDA、AMD和Intel走Vulkan——几乎覆盖了所有现代硬件。实测在M2 Pro MacBook Pro上,一个45分钟的会议,转录+摘要全流程只需要不到3分钟。
不止是转录
meetily不是那种"录完扔给你一段文字"的偷懒产品。它内置了:
- 实时字幕(开会时就能看到文字)
- 智能会议摘要(自动提取关键决策、待办事项、风险点)
- 说话人识别(区分谁说了什么)
- 日历集成(支持Google Calendar、Outlook、Apple Calendar)
- Markdown导出和一键分享
AI模型支持
虽然转录是纯本地的,但摘要部分可以用你选的大模型——支持Ollama本地模型、Claude、Groq、OpenRouter、OpenAI。如果你追求极致隐私,可以完全用Ollama跑本地LLM做摘要,整个流程零网络请求。
多平台
macOS、Windows、Linux全覆盖。而且它是MIT开源协议——企业可以直接拿去定制,不用担心里面藏了什么回传后门的逻辑。
实用场景
- 法务/律师团队(会议内容高度敏感)
- 金融/投行(合规要求不允许数据出域)
- 内部敏感会议(董事会、薪酬讨论)
- 需要离线工作的场景(出差飞机上、无网络会议室)
💡 在Ray-Ban Meta火爆、每个人都在往AI系统里塞数据的今天,meetily选择了一条"反向操作"的路——不是加更多云服务,而是帮用户锁死数据不出门。AI应用的下一波竞争,可能不是谁更智能,而是谁更值得信任。
02 OmniRoute 12.6K⭐ 一个客户端调用231个AI模型 免费方案省90%费用
如果你同时在用ChatGPT、Claude、Gemini、Grok、DeepSeek……你的桌面大概已经开了五个网页标签、记了三张API Key纸条了。
OmniRoute 的解决方式简单粗暴:一个统一网关,管你背后是哪个模型的API,开发者只用面对一个端点一个Key。
231+ 供应商,50+ 免费
这个数字在持续更新。OmniRoute v3.8.45(7月6日刚发布)聚合了231个AI服务商,其中50多个提供免费模型额度。涵盖主流聊天模型、图像生成、语音识别、视频生成、代码补全——基本上你叫得上名字的AI服务都有入口。
省钱才是硬道理
OmniRoute最炸裂的功能是它的「叠加压缩引擎」——RTK(实时令牌压缩)+ Caveman堆叠压缩的组合,平均节省15%到95%的令牌用量。对于高频调用API的团队来说,这意味着同样的功能,花费可能只剩十分之一。
三方工具兼容
即使你不用OmniRoute的客户端,它也可以直接作为OpenAI兼容的端点使用——Claude Code、OpenAI Codex、Cursor、Continue.dev等主流AI编码工具都能直接连。只需要把API端点换成OmniRoute的地址,整个团队的AI工具链就统一了。
技术细节
- 4,545次提交,309个版本标签,非常活跃
- 内置「Skills」系统,支持编写自定义AI工作流
- Electron桌面客户端 + CLI命令行工具
- 支持Open-SSE协议
- 自带AGENTS.md、CLAUDE.md、GEMINI.md等开发文档(对不同AI agent做了适配)
谁该用
- 团队同时用多个AI模型做不同任务
- 想控制API预算、不想被单一供应商锁定的开发者
- 有模型切换需求的产品(A/B测试不同模型的回答质量)
- 独立开发者,想免费白嫖各平台的免费额度
💡 AI行业的"基础设施化"正在加速。OmniRoute的出现说明一个趋势:模型本身的差异化越来越小,真正的竞争在"编排层"——谁让开发者用得更爽、花得更少、切换更自由。这就是中间件的胜利。
开源专栏实用工具箱
| 项目 | Star | 核心亮点 | 适用人群 |
|---|---|---|---|
| meetily ⭐ | 19.5K | Rust/Tauri纯本地AI会议,无云端偷听,4x快 | 注重隐私的团队、法务、金融 |
| OmniRoute ⭐ | 12.6K | 231+供应商统一网关,50+免费,省90%令牌 | AI开发者、多模型团队 |
写在最后
今天这两个项目有一个共同点:都是"中间件"。
meetily不做云端的AI会议伴侣,而是把转录AI装进你的电脑里——这是隐私中间件。OmniRoute不造模型,而是让231种模型的调用统一到一个入口、省90%的钱——这是技术中间件。
在AI的"淘金热"里,卖铲子的人和挖金子的人同样重要。这两个项目就是那两把好铲子。
项目地址:
- meetily: https://github.com/Zackriya-Solutions/meetily
- OmniRoute: https://github.com/diegosouzapw/OmniRoute
夜雨聆风