昨天凌晨,我让龙虾下载一部电影。
这个活儿原本很简单:先查本地有没有,没有就去配置好的PT站搜,挑一个清晰度合适、体积别太离谱、做种还行的版本,推到下载器里。以前干这事,它像一个夜里熟门熟路下楼买烟的人,门一开一关,事情就办妥了。
今天不一样。
它刚抬脚,系统问我:你确定让它出门吗?我说确定。
又走两步,系统又问:你确定让它按电梯吗?我说确定。
再走两步:你确定让它走出小区吗?
冷静下来想想,龙虾可能没有变笨,模型还是那个模型。变的是规矩:以前它能一把梭的事,现在要我点五次确认。
技术圈给这种事起了一堆很专业的名字:权限收敛、安全策略、最小授权、风险隔离。都对。翻译成人话就是:以前保安看你眼熟,直接放你进小区;现在保安换班了,每进一道门都要问你住几栋几单元。
保安没有错,但我也没有爽到。
……
AI助手这东西,值钱的从来不是会回答问题。会回答问题只是基础能力,像电饭煲会煮饭一样,不值得吹。真正值钱的是它能把一串麻烦事连起来做完——理解意图,找工具,查状态,做判断,最后给你一个结果。
你让它下载电影,它最好别给你写一篇《下载电影的十种方法》;你让它整理资料,它最好别先问一句“请问您希望以什么格式整理”;你让它把文章存进公众号草稿箱,它最好别在第三步突然变成合规部实习生,举着单子说:请再次确认,我要碰一下剪贴板。
但现实是,AI助手们正在长出越来越多这样的单子。
原因不复杂。前两年的AI产品像刚毕业的年轻人,主打一个我敢干:能点网页,能跑命令,能读文件,能调接口,老板一句话,立刻冲出去。后来大家发现,这位年轻人虽然积极,但偶尔会把外卖送到隔壁,把机密发进群聊,把测试库当生产库,顺手再碰倒桌上的杯子。
于是公司开始给他配流程。流程一配,安全了,也慢了。
这就是今天所有AI产品的尴尬:越有用,越危险;越安全,越像没用。
道理其实站得住。一个只能聊天的AI没什么破坏力,最多胡说八道,像饭局上喝多了的朋友。可一个能操作你电脑、访问你内网、登录你账号、替你对外发东西的AI,就不是朋友了,它是一个拿着你钥匙、手机和银行卡的临时管家。管家当然要聪明,但更重要的是,不能太自信。
审批就是这么来的。它本质上不是为了折磨用户,是给“能干活的AI”装刹车,尤其是碰本地程序、下载器、账号后台、对外发布这些动作,系统得说一句:停一下,让主人看一眼。
这很合理,但它也很烦。因为用户不是来体验刹车的,用户是来坐车的。要是每过一个路口,司机都回头问一句“老板,这个红绿灯我可以过吗”,再好的车也像坏了。
……
所以我觉得,往后AI产品拼的不是有没有审批,而是审批长得像不像人话。

低级审批长这样:某某进程请求执行某某路径下的某某命令,参数若干,是否允许?用户看完只想说,你们是不是在难为我。
高级审批应该长这样:我要做三件事——查本地、搜资源站、把选中的推到下载器;会碰你的文件索引和下载器,不删文件,不对外发消息。是否允许本次完整执行?
差别在哪?低级审批让你批准一行命令,高级审批让你批准一个意图。人类生活在意图里,机器生活在指令里,产品做得好不好,就看它能不能把机器的指令翻译成人类的意图。
用户对AI的期待,从来不是它每一步都正确地请求许可,而是它在不越界的前提下,尽量少打扰。
这句话放在人身上也成立。有的人守规矩守到每做一步都请示,不容易犯错,也很难托付事情;有的人能干到什么都替你决定,短期很爽,长期吓人。靠谱的人在中间:小事自己办,大事先说清楚;能合并的流程不拆碎,有风险的动作提前报备;出了问题不甩锅,讲明白,下次改。
AI助手也该长成这样。
昨晚这事最后没什么大不了,电影照样下上了,速度也还行,只是一趟本来三分钟的便利店之旅,被拍成了公路片。
但它暴露的问题很真实:AI的能力越往现实世界里走,体验就越容易被安全机制切碎。以前的AI像嘴,现在的AI开始像手。嘴说错话,尴尬一下;手按错键,可能真出事。所以手上加几道保险,是必要的。
只是别忘了,用户要的不是一只戴满护具、每动一下都申请许可的手,用户要的是一只稳的手。
该扶的时候扶住,该停的时候停下,该把活儿干完的时候,别在门口反复问:我可以进来了吗?
夜雨聆风