ARTICLE · 1074959
AI 终于懂了:软件要的不是漂亮话,是"是/否"和"选哪个"
最近有个叫 Jev 的模型刷屏了。它怪得很——不聊天、不写代码、不生成任何一段文字。
它只返回三个东西:选项、分数、是或否。 外加一个校准过的置信度。
就这,它上线 36 小时冲进来 14 万开发者,Hacker News 拿了 1715 个赞登顶。
它戳破了一个被忽略了四年的区别
把 Jev 看懂,先得听懂它背后那句话——这是我这几年做 Agent 落地,最想拍大腿认同的一句:
"人对着屏幕用"和"软件自己在后台跑",是两个完全不同的场景。
现在的大模型,几乎全都是为"人"优化的。RLHF 训练出来的模型,会学着说人爱听的话、写人爱看的字。可你的程序在后头跑,很多时候根本不需要一段话,只需要一个"是"或"否"——但传统模型偏要先给你吐一段文字,再由代码去解析、验证、重试。又慢、又贵、还不一定对。
Jev 的创始人 Diogo Almeida,是 InstructGPT 和早期 RLHF 的参与者——就是给 ChatGPT 打地基的那批人。他做了两年之后,结论很干脆:一个聊天能力超过人类的模型,并没有带来自动化。 软件自动化真正缺的接口,是"给出一个类型安全的判断,再附上一个诚实的置信度"。
它凭什么又快又便宜又可信
Jev 只做三种判断,可以混在一次调用里:
- Choice(选一个):工单该转给 billing、technical 还是 sales?它不解释,直接回
{billing:0.08, technical:0.85, sales:0.07}+ 置信度 0.82。 - Score(打分):流失风险 0 到 2 级。
- Noul(是/否):"这条消息是越狱攻击吗:0.97"。
三个设计,正好打在 LLM 的三个痛点上:
- 输出空间在调用前就定死了——答案只能出自你预设的选项,编不出第四个部门。这就是所谓"不会幻觉"的来源。
- 置信度是真校准过的——标 0.9 的判断,期望上 90% 是对的。你的代码能设阈值,低置信度自动转人工、或转给更强的模型。
- 不逐 token 生成,并行出答案——端到端 70 到 500 毫秒,传统 LLM 做同样的事要 3 到 329 秒。
一快、一便宜、一可信,就这三样,它敢管自己叫"系统一"。
这玩意儿,音乐公司最该先看懂
别觉得这是纯开发者玩具。我把它翻译成音乐行业,你马上就知道它会在哪出现了:
- 侵权监测:每天扫出来几百条疑似线索,哪条是裸盗、哪条是授权、哪条是边界模糊?——这就是"海量选择判断",现在全靠人一条条看。
- 达人匹配:一个投放需求,从几千个达人里筛出前几十个高意向的,打分排序——judgment,不是生成。
- 工单/客服分流:音乐人提交的问题,该转版权、发行、还是结算?——分类判断。
- 结算异常检测:一笔账单对不上,是正常误差还是异常?——是/否判断。
- 内容风控:一条评论、一首歌名,有没有违规风险?——是/否 + 概率。
看清楚了吗?音乐公司 Agent 落地里,一大堆活根本不是"生成",是"判断"。 以前你只能拿一个会写漂亮话的大模型去硬扛这些活,又慢又贵;现在这类"系统一"模型来了,等于给"判断"这件事单独上了便宜 10 倍的货架。
但别被"444 倍"骗了,这里有坑
这篇文章最良心的地方,是它没把你当韭菜,主动把宣传戳破了。两个坑,你要花钱之前必须看清楚:
第一,便宜是打折的。 官方说便宜 444.6 倍、快 193.6 倍。但独立测试算下来,成本优势的区间其实是 8.6 倍到 580 倍——444 这个数,恰好是对上最贵的那个模型(Opus 5)的单点值,不是平均数。
第二,最大的坑叫"弃权率"。 这是全网很多文章没写的:生产队列上 9081 次真实判断,有 30% 的置信度不达标,要升级转人工或转更强的模型。76 倍的名义优势,被这个弃权摊薄到只剩 3.2 倍。要是传给它的状态信息太单薄,弃权率能过半,省的钱基本就没了。
所以正确的姿势是:先拿你自己的真实数据跑几百条,量出你自己的弃权率,再算账。 别照搬宣传倍数。
写在最后
Jev 真正验证的,不是"又一个更快的模型",而是一个判断:AI 行业在"让机器把话说漂亮"上跑了四年,可软件自动化真正缺的东西,一直没人给——给一个可执行的判断,加一个诚实的置信度。
对音乐公司,这条更有实际意义——判断的成本每降一个数量级,你就能多自动化一个数量级的决策。 这是杰文斯悖论在 AI 上的又一次重演:不是"更省钱",是"会把更多原本靠人的判断,交给机器"。
下一步该盯的,不是谁家模型又涨了几个 benchmark,是你那些天天靠人肉做的"判断活",什么时候能被这种便宜货替掉。
你团队里现在最耗人力的,是哪种"判断"——筛线索、对账单,还是分流工单?评论区聊聊 👇
我是小江,专注把AI落地到企业。 分享两件事:AI行业资讯 + AI工具落地。 👇 关注"硅基小江"
写完了。觉得有用,点个赞、在看,转给一个用得上的朋友;想第一时间收到下一篇,标个星⭐。下次见。