夜雨聆风学习资料网

ARTICLE · 1134806

Underdog:硅谷最"私密"的 AI 助手,27B 模型全部跑在你自己的电脑上

Underdog:硅谷最"私密"的 AI 助手,27B 模型全部跑在你自己的电脑上

Underdog:硅谷最"私密"的 AI 助手,27B 模型全部跑在你自己的电脑上

硅谷 17 岁少年 Sigil Wen 曾在 Karpathy 的 AI 黑客屋里和后来成为 Perplexity 创始人的 Aravind Srinivas 一起写代码,试用过 Claude 和 Midjourney 的最早版本。如今这位 Thiel Fellow 做了一件更极端的事:他发布的 Underdog 是一个邀请制 AI 助手,模型**完全运行在用户自己的设备上**,你的数据一个字节都不会离开你的 Mac 或 PC。

"用 AI 为什么要交出隐私?"

Underdog 的核心理念写在 Wen 的"AI 宣言"里:Why should using AI require surrendering your private information?当前所有主流 AI 助手——ChatGPT、Claude、Gemini——你的对话、文件、邮件都上传到数据中心。Underdog 反其道而行:自研推理引擎 Husky 把 27B 参数的推理模型(基于 Qwen3.8 27B 微调)完整跑在本地,从邮件到日历的账号密钥都在本地加密。

Wen 特别强调 Husky 的工程设计:它减少了主芯片和 GPU 之间的数据搬运量,这是本地推理性能的关键瓶颈。目前支持 Mac 和 Windows,Linux、iPhone、Android 在路线图上。他说:"我想给未来的孩子做一个我会骄傲的产品。"

27B 够不够用?

诚实地说,27B 和数据中心里的旗舰模型差着一两个数量级。但 Wen 的论点是:对于购物研究、数学作业、邮件草稿这类日常任务,27B 微调后的推理模型已经够用,而且他在部分基准上声称可以对比半年前 Claude Opus 4.6 的水平。这个说法需要更多独立验证,但方向本身是成立的——本地模型的能力边界正在快速扩张。

Conway Research 的投资阵容相当豪华:Collison 兄弟、a16z(Chris Dixon)、Khosla Ventures、Menlo Ventures 与 Anthropic 的联合基金 Anthology Fund,天使投资人包括 Vercel 创始人 Guillermo Rauch 和 OpenAI 研究员 Noam Brown。这个配置说明"本地优先 AI"已经不是小众实验,而是被主流资本押注的方向。

一个未解的问题

Underdog 目前仍是邀请制 beta,没有公开定价,没有 API,没有文档。Wen 要解决的核心矛盾是:本地模型的能力天花板 vs 用户数据主权。如果 27B 真的能覆盖 80% 的日常 AI 需求,这个产品会非常危险;如果不能,它就只能服务于隐私敏感度极高的细分人群。邀请制本身就是筛选器——谁被选中,谁就能提前回答这个问题。

核心观点

AI 助手正在分化为两条路线:云端旗舰追求能力上限,本地模型追求数据主权。Underdog 赌的是后者能追上前者 80% 的日常场景——如果赌对,"隐私"就不再是 AI 的代价而是卖点。

— END —

LC 智趣厅 · 科技与生活的交点

ihygg.cn

相关学习资料