夜雨聆风你有没有过这种体验。问 AI 一个该怎么选的问题，它回你一份条理清楚的利弊分析，一二三列得明明白白，你越看越觉得，对，就按它说的办。
然后你真按它办了，翻车了。
我后来复盘过好几次这种事，发现问题不在 AI 胡说八道，在它给的本来就是建议，不是结论，而我稀里糊涂把建议当成了结论。这两个东西差着一个「谁拍板、谁担责」。
这事我印象最深的一次，是拿 AI 帮着定一个技术选型。它列了三套方案的取舍，证据链看着完整，我信了，往下推了两周才发现它引用的那篇对比评测，样本量和我们的场景根本不是一回事。不是它骗我，是我自己跳过了核实那一步，把建议直接当成了结论。
后来我琢磨，人会这么轻易把建议当结论，多半是因为 AI 说得顺。人天然容易把「说得顺」当成「想得对」，它列得越整齐，你越懒得较真。这跟模型能力无关，跟人的惰性有关。
再强的模型，也会自信地说没核实的话
今年七月发布的 Kimi K3，是当下最强的智能体模型之一。它在网页智能体榜 BrowseComp 上拿到 91.2% 的准确率，开源梯队里推理分数也排最前。有评测者拿它做研究任务，让它跨四个模型的定价史核实十二个事实，它对了十一个，还主动标出两条自己不敢确认的数字。
听起来已经很能打了。
可同一个评测里，它唯一扣分项，是它把一条传闻当确凿事实写了出来。评测者明言，扣它就扣在它太自信地陈述未核实的事实，所以一定要接搜索、要让人盯着引用。
一个能自己搜、能交叉核对、还能主动标不确定项的模型，照样会踩这个坑。这说明一件事，模型能力的大小，和它给的结论该不该直接信，是两回事。能力强，只是让它错得更像对的。
我自己的习惯是，看到 AI 给的「结论」，先默认它是「待核实的建议」。这个默认帮我挡掉过不少麻烦。你要是问它「明天该不该加仓」，它给你一套逻辑，可它不知道你的仓位、你的止损线、你今晚睡不睡得着，这些它给不了，得你自己补。
更细的坑在引用。模型能给出处，但出处和内容不一定对得上，它可能把 A 论文的结论安到 B 头上，你若不回原链接核对，就被带着走。所以「接搜索、让人盯着引用」这句话，重点不是「接搜索」，是「人盯着」。
还有个更隐蔽的点，是校准。模型不知道自己不知道什么，它说「我确定」的时候，可能正是最该被怀疑的时候。置信度和正确率不是一回事，这点人得替它把关，因为它自己分不清。那个跨四模型定价史的研究任务，正好就是你会拿来当决策依据的合成活儿，它在这种事上都能栽在一条没核实的传闻上，说明连「综合」这件事本身也靠不住。
人也容易把「模型很大」当成「模型不会错」，这是另一层误判。参数多、榜单高，和「这次正好对」之间没有等号，别被体量吓住。
把决策交出去，风险会随规模放大
单个人用 AI 翻车，代价是个人的。可一旦你把决策权批量交给一堆 agent，风险就不是线性涨了。
今年 WAIC 上提了个词，DAA，日活智能体。有机构测算，2025 年全球活跃 agent 大约 2860 万个，2026 年要冲到接近 8000 万，到 2030 年可能超过 22 亿。也就是说，光今年，全球企业就要迎来 5000 多万数字员工集中上岗。
数字很壮观，另一组数字也跟着来了。Gartner 说，近四成的 agent 项目会因为安全风险管控的问题失败。阿里云的人在场子上说得直白，过去一年看了大量让人兴奋的 agent Demo，可 Demo 和生产之间隔着一条很深的沟。还有人提到，机器身份的数量已经超过了人类，企业正处人和 agent 共生的环境里，安全不再是可选项，是必选项，不然 agent 就是个定时炸弹。
数量上来了，一个 agent 的判断偏差乘以几百万份，翻的就不再是某个人，是一整批业务。智能体越自主，安全边界越要紧，这话不是吓人，是算出来的。
agent 还有个麻烦，它犯错你不一定看得出来。人干错了，痕迹在，谁拍的板一查就知道。agent 干错了，日志里是一串调用，责任散在好几步里，真出事你都难说清是哪一步偏的。所以批量放权之前，先想清楚出了问题找谁。
放大到企业里更明显。有人在场子上说，真正的挑战不是有没有 agent，是让 agent 跨角色、跨系统、跨边界进流程。物流 agent 和采购 agent 顺畅对话，营销 agent 和财务 agent 彼此信任，电网调度 agent 和气象预测 agent 实时同步，这才是生产，Demo 里可没有这些摩擦。
稳的用法，是让它做、你核验、你拍板
今年 WAIC 上那些「能干」的 agent，我看了挺多，印象深的是西门子展出的工程智能体。它不像多数只给建议的辅助工具，能独立把工程任务从头干到尾，写控制软件、配系统、一直迭代到各项指标达标。
可展台介绍里，反复强调的是「验证」这个环节。它能干，不等于它的产出你不用看。它把重复的手工活压掉了 95%，处置效率提了 85%，但关键决策和验收，还是人卡着。
智能体这一年从「会聊」走到「能干」，对应的，是人从「问它」变成「盯着它干完再拍板」。角色没变，还是人决策，只是人从前台退到了校验位。百度那边提过一个说法，未来的组织是人和智能体的混合编队，叫超级组织，重点在「混合」两个字，人不是被替掉，是和 agent 搭班子，活儿它干，板你拍。
我一个朋友的公司试过让 agent 自动回客户工单，省了不少人力，可两周里两次它许下了交付不了的承诺，因为没人复核就直接发了，最后只能挨个道歉。从那以后他们定死一条，凡是往外发的、不可逆的动作，agent 出初稿，人按发送键。这条线划在哪，决定了 agent 是帮手还是麻烦。
说到底，人审 agent 的输出，本身就是一门活。审得太松等于没审，审得太细又回到纯人力，agent 白接。好的做法是别逐字看，抓那几个会出大事的点，合同里的金额、承诺里的时限、代码里的权限，这些过一遍，其余交给它。
建议和结论之间，隔着一层验证
我慢慢摸出一条用法，把一件事拆成两层。第一层，让 AI 帮我穷举选项、找我没想到的角度、把枯燥的核对跑完，这些它比人快也比人稳，放心交给它。第二层，从一堆选项里挑哪个、担不担得起后果，这一层必须留给人。
简单说，可逆的、代价小的决定，比如明天先读哪篇论文、周报怎么排结构，让 AI 多扛一点无妨。不可逆的、代价大的，比如签不签合同、砍不砍一条产品线、动不动用杠杆，AI 再能说，也只能在旁边递纸条，落笔的得是你。
拿交易说，AI 可以帮你把一只票的底层逻辑、技术形态、消息面摊开，甚至按你的规则回测一遍，这些它比人快。但「现在买不买、买多少、错了怎么砍」，这些得你拍，因为止损那一刻的难受，模型替不了，也不该替。
这中间最要命的误区，是把「它说得很对」等同于「它说的是对的」。前者是表达，后者是事实，中间要人去验。验证不是免费的，人的复核要花时间，可这恰恰是安全的价码，省不得。
我拿它管过不少小事。写周报让它先出结构，我再改；挑书让它按我的口味列候选，最后买哪本我自己定；连出门穿什么，它给搭配，我扫一眼就否掉一半。这些事它替我省了时间，没替我担过责任，因为后果轻，错了重来就是。
留个问号给自己
聊到这，我想把话拉回来。我用 AI 做决策，一直守一条，它给我的任何结论，先当待核实的建议。它能帮我打开思路、补齐我懒得翻的细节，但最后那一下，谁拍板，谁担责，得是人。
我给自己留了个简单的自问。任何一条 AI 给的结论，落笔前先问，要让它成立，得有哪些前提为真，这些前提我核实过几个。一个问题答不上来，就先别动。这法子不高级，但能把大部分坑挡在门外。
慢慢你会发现，和 AI 共事最舒服的状态，不是它替你拿主意，是它把杂事干完，你腾出手做那个最难也最该你做的动作，拍板。
我给自己定了条硬规矩，凡是发出去给人看、给人用、要签字的东西，AI 出的初稿可以，定稿必须我自己过一遍。这规矩笨，但几年下来没出过大漏子。
永叔
