ARTICLE · 1061362
JEV:这个AI模型不说话,却让Agent快了200倍
JEV：这个AI模型不说话，却让Agent快了200倍
如果你用过 ChatGPT 写文章、做翻译，那你已经体验过“生成式AI”的威力。但你可能没意识到：一个AI Agent在干活时，绝大多数调用其实根本不需要“写东西”，只需要做一个简单的判断。
比如：该调用哪个工具？这条消息紧急吗？这次操作有风险吗？结果可信吗？
过去，这些判断也被交给了昂贵的大模型。结果是——又慢、又贵、还不稳定。
JEV 就是来解决这个问题的。
JEV是什么：一个“不说话”的判断模型
WHAT IS JEV
JEV 是 TypeSafe AI 在2026年9月发布的一款新型AI模型，由前OpenAI研究员、ChatGPT早期核心贡献者 Diogo Almeida 创办的团队开发。
它和 ChatGPT、Claude 这类模型有一个根本区别：
它不生成任何文字，只输出“判断结果”。
你给它一段信息（比如一封邮件、一行日志、一个工单），再给它几个预先定义好的问题，它直接返回结构化的答案——选项、分数、是/否，并且每个答案都附带一个置信度概率。
你可以把它理解成一个“带概率的智能 if 语句”。你问它“这封邮件紧急吗？”，它不会写一段话解释，而是直接告诉你：紧急：92%，不紧急：8%。
JEV的核心原理：把“慢思考”和“快判断”分开
CORE PRINCIPLE
JEV 背后的设计思想，来自诺贝尔奖心理学家卡尼曼的《思考，快与慢》。
系统一（快思考）：快速、直觉、低成本的判断
系统二（慢思考）：缓慢、理性、高成本的深度推理
大模型擅长“系统二”——写文章、做规划、深度分析。但 Agent 运行时产生的大量判断，本质上属于“系统一”的范畴。
过去的架构把所有事情都塞给大模型，就像一个红绿灯判断也要启动超级计算机。JEV 的做法是：把高频、重复、封闭式的判断抽出来，交给一个专门的轻量模型。
官方公布的数据显示，JEV 在分类决策任务上比前沿大模型最快提速近200倍，成本最低降至约四百分之一，端到端延迟仅70到500毫秒。
架构很简单：LLM生成 → JEV决策 → 代码执行
ARCHITECTURE
JEV 推荐的 Agent 架构非常清晰：
LLM 生成 → JEV 决策 → 代码执行 → 人类审阅不确定情况
LLM 负责“想”：写文本、写代码、做复杂推理
JEV 负责“选”：在预定义结果之间做快速、类型化的判断
代码 负责“做”：根据判断结果直接执行确定性逻辑
人类 只在 JEV 置信度低的时候介入
这种拆分让 Agent 变得更快、更便宜、能持续运行数千个决策而不崩溃。
三种原语：JEV 只会做三件事
THREE PRIMITIVES
JEV 只能做三件事。你给它一段信息，它从三种问法里选一种，返回结构化的结果。
Choice（选择）
想象你有一个助理，你问他：“这封客户邮件该转给谁？”
他看了一眼说：物流部门，我96%确定。也有3%可能是退款部门，1%可能是其他。
注意：这不是说“有96%的概率要转给物流”。而是说，助理看了邮件内容后，判断它属于物流部门，并且对这个判断有96%的把握。你可以设一个规则：把握超过90%，直接自动转发；把握低于90%，拿给你自己确认。
Score（评分）
让模型在一个你划定的尺度上打分。比如客户愤怒程度，1=平静，2=有点烦，3=很生气，4=要跑路。模型返回3.2分，你可以根据分数决定要不要升级处理。
Noul（是/否判断）
本质上是一次是非判断，返回一个0到1之间的数字，代表这件事为真的概率。比如“需要人工介入吗？→ 是：94%，否：6%”。
关键规则：一个问题只判一件事。复杂的判断要拆成多个问题，在代码里组合。三个原语可以在一次请求里并行执行，共用同一段输入信息，互不干扰。
14条决策技巧：让AI Agent跑得更快、更省钱
14 TIPS
以下是 JEV 的14条核心技巧，按从入门到进阶排列：
1. 找到分叉点
先审视你的 Agent，找出所有“做选择、评分、路由、批准或拒绝”的地方。这些就是 JEV 的用武之地。
2. 将生成与决策分开
让 LLM 写文本、写代码；用 JEV 在预定义结果之间做决策。各干各擅长的事。
3. 从一个问题开始
不要一上来就重构整个 Agent。先在 Playground 里测试一个重复决策，验证效果。
4. 使用正确的类型
Choice 选一个选项，Score 打分，Noul 返回概率。别用错工具。
5. 发送真实状态
给 JEV 的上下文要包含：目标、已完成工作、可用工具、约束条件、决策实际依赖的证据。信息越真实，判断越准。
6. 编写精确标准
“如果证据缺失就研究”比“挑选最佳worker”强得多。标准越精确，JEV 的判断越可依赖。
7. 构建动态菜单
在每次工具调用后重新生成可用操作，让 JEV 始终从当前状态中选择，而不是一个固定的老菜单。
8. 批量决策
当多个问题使用相同上下文时，在一次调用中同时问路由、紧急度、批准。省时间也省钱。
9. 按置信度把关
高置信度决策自动执行，低置信度路由到人工审阅。让机器处理确定的，让人处理不确定的。
10. 将硬性规则保留在代码中
支出限制、动作上限、权限、精确计算——这些必须保持确定性，不要交给模型判断。
11. 添加回退阶梯
如果 JEV 延迟或不可用，要有备选方案：暂停、使用安全默认值、或将任务交给另一个模型。
12. 验证结果
一个自信的“完成”并不等于文件已保存、消息已发送。JEV 判断的是状态，最终结果仍需代码验证。
13. 记录一切
存储模型版本、状态、决策、置信度、路由和最终结果。这些数据是系统改进的唯一依据。
14. 扩展胜出者
从一个昂贵的决策开始，测量成本和准确性，然后替换下一个重复的 LLM 调用。逐步扩展，不要一次性全换。
如何上手
GET STARTED
JEV 已于 2026年9月21日向所有用户全面开放，无需申请候补名单。所有注册用户可获得5美元额度，约1.2亿 Token。
定价：输入每百万 Token 0.042 美元，输出免费。速率上限每秒25万 Token、每分钟1200请求。
上手路径：
1. 在 Playground 试用：打开 console.typesafe.ai/playground，粘贴一段状态，加一个问题，看返回的类型化结果
2. 获取 API Key：在控制台创建，导出为环境变量 TYPESAFE_API_KEY
3. 从单点开始：选一个你 Agent 里最频繁的 LLM 调用，替换成 JEV
4. 测量对比：记录延迟、成本、准确率的变化
国内方面，APUS 已发布全球首批 JEV 开源复现成果 fast-browser-use，支持 macOS、Linux、Windows 三大平台，纯本地离线运行，MIT 协议开源。
总结
SUMMARY
JEV 代表了一种新的 AI 工程思维：不是所有判断都需要一个“会说话”的模型。
把生成交给 LLM，把决策交给 JEV，把执行交给代码。这种分层架构，正在成为下一代 AI Agent 的标准范式。
如果你正在搭建 Agent，或者被 LLM 的延迟和成本困扰，JEV 值得认真看一看。
常见问题
FAQ
Q：JEV和ChatGPT有什么区别？
A：ChatGPT生成文字，JEV只输出判断结果。一个负责说，一个负责选。
Q：JEV能用来做翻译吗？
A：不能。它不生成文字，只做分类、评分和是非判断。
Q：国内能用吗？
A：可以用。APUS已经发布了开源复现版本，支持本地离线运行。
其他文章推荐
READ MORE
3分钟输入，80秒出图。完整拆解我的「创意DNA总监」角色提示词。
AI自动化顾问、提示词工程师、AI产品设计师……正在学的技能，到2030年会变得无法被忽视。
4步操作，6套主题。从图片准备到复制进编辑器，照着做就行。
我是Seven.x，10年视觉设计师。在这里分享AI实战笔记，工具、技巧、工作流、踩坑经历，每个方法都亲手验证过。
#AI工具 #AIAgent #JEV #TypeSafe #AI工程 #效率工具 #开源软件 #AI开发 #智能体 #技术科普