乐于分享
好东西不私藏

AI 工具,到底应该是一个黑盒,还是一块玻璃

AI 工具,到底应该是一个黑盒,还是一块玻璃

现在很多 AI 产品都在卖同一种爽感:你提需求,它直接给结果;你别管过程,反正先跑出来再说。
这套体验短期确实很上头。写代码、改方案、做设计,像拉老虎机一样,输一句话,等几秒钟,成品弹出来。你只需要做两个动作:接受,或者拒绝。
但问题也恰恰在这里。
模型越强,产品越容易把过程藏起来;过程藏得越深,人就越容易把判断一起外包出去。
最近 Cursor 首席设计师 Ryo Lu 在 X 上写了一篇很有意思的长文。他没有只谈功能,而是谈了一个更底层的问题:AI 工具,到底应该是一个黑盒,还是一块玻璃?
这个问题听起来像产品哲学,实际上会直接决定一件事:你到底是在使用 AI,还是在被 AI 的默认流程重新塑形。

一、黑盒的问题,不是看不见,而是你会慢慢不再介入

从终端时代开始,人机交互里就一直有黑盒。
你输入命令,系统返回结果。中间发生了什么,大多数时候你并不知道。但过去的黑盒至少有一个特点:它门槛高,你必须主动学习,才能真正驾驭它。
到了 AI 时代,黑盒变得更高级,也更顺滑。
你不再需要理解结构,不再需要拆任务,也不一定需要判断中间步骤是否合理。很多产品把整个过程包装成一次性完成的魔法:你说一句,它做一串,最后吐给你一个看起来已经差不多的答案。
危险从来不只是「模型可能出错」。
更大的危险是,当这种交互足够顺时,人会越来越少问三个问题:
它为什么这样做?
这里还能不能改?
这个结果到底是不是我想要的?
一旦这三个问题消失,用户失去的就不只是过程视角,而是判断力本身。
所以真正值得警惕的,不是 AI 太聪明,而是人太容易习惯于不思考。
到最后,你不是在使用工具,而是在接受工具替你定义工作的方式。

二、Cursor 提出的不是透明,而是「可介入」

Ryo Lu 给出的答案很漂亮:把黑盒打碎,把它变成玻璃。
这里的“玻璃”并不是要你像监工一样盯着 AI 的每一步,更不是把所有底层细节都摊给用户。它真正强调的是三件事:
过程看得见
节奏停得住
关键时刻你能把手伸进去
这背后其实是一种很成熟的软件观:好工具不是替你完全做完,而是让你始终保有主导权。
这也是为什么同一套能力,可以服务完全不同的人:
产品经理需要的,不是一个瞬间生成的“最终方案”,而是能看到一份想法如何被拆成任务、如何逐步落地。
设计师需要的,不只是把草图自动变成界面,而是设计和实现之间能持续来回调整,而不是一生成就定稿。
工程师需要的,不只是自动写代码,而是架构、改动、diff、回滚都在自己掌控之中。
新手需要的,不只是“能跑”,而是能沿着过程学习,知道为什么这样改。
老手需要的,不只是效率,而是在放手自动化的同时,随时能接管局面。
同一个工具,允许不同深度的介入,这才像专业软件。
真正成熟的 AI 产品,不会逼所有人都走同一条“全自动流水线”,而是让不同能力层次、不同工作习惯的人,都能找到自己的控制面。

三、为什么 AI 越强,越需要“玻璃感”

很多人会觉得,模型都已经这么强了,为什么还要强调过程可见?
答案反而很简单:能力越强,默认路径的吸附力就越强。
当 AI 已经能在大多数场景下给出“80 分答案”时,用户最容易做的事,就是停止继续打磨。因为继续追问、继续修改、继续介入,都显得麻烦。
但真正拉开差距的,恰恰往往是那 20 分。
这 20 分可能是:
一个只有你知道的业务细节
一个模型很容易忽略的边界条件
一种更符合你团队习惯的组织方式
一点审美上的克制
一次对方向的及时纠偏
这些东西,模型不一定天然没有能力,而是它没有你的上下文、你的责任、你的判断。
所以“玻璃感”的价值,不是帮助用户监督 AI,而是帮助用户保住那些只有人能最终拍板的部分
工具应该学习你的工作方式,而不是逼你适应它的默认流程。
不然表面上省下的是几个点击,实际上丢掉的是作品的上限。

四、AI 产品正在分成两派

今天越来越多 AI 产品,本质上都在走两条路线中的一条。
第一条路线是:你别管,我来搞定。
它追求的是最短路径、最少操作、最强自动化。产品演示时很惊艳,转化也往往很好,因为它卖的是一种即时满足。
第二条路线是:我可以帮你很多,但最后还是你说了算。
不会把自动化当成唯一答案,而是把自动化当成默认能力之一。你可以一键生成,也可以逐步调整;可以放手让它跑,也可以在关键节点随时介入
这两条路线,没有绝对的道德高下,但适用对象完全不同。
如果用户只是消费内容、尝试灵感、快速试玩,黑盒确实足够爽。
但只要进入创作、生产、协作、交付这些真正要负责的场景,黑盒的副作用就会迅速暴露:
掌控感变弱
打磨空间变小
出错时责任链条不清
团队很难形成稳定工作流
你最后会发现,问题不是 AI 帮得不够多,而是它帮得太完整,以至于人失去了介入位置。

五、工具观背后,其实是工作观

把这篇长文翻译成一句更直白的话,其实就是:
强模型 + 全黑盒,适合消费;强模型 + 可见过程 + 随时介入,才适合真正的创作与生产。
这不只是一个界面设计问题,更是一种工作观。
你到底相信:
人的价值主要是点击执行,所以工具应该尽量把人排除在外;
还是人的价值在于判断、取舍和负责,所以工具应该尽量放大人的主导权。
如果你在做 AI 产品,或者正在推动团队把 AI 接进工作流,这个问题最好早点想清楚。
因为“帮用户少点几下”很容易做成数据指标;
但“帮用户保留成长空间、判断空间和责任空间”,才决定这个产品能不能真正进入长期工作流。
Ryo Lu 那句话说得很重,但我觉得很准:把方向盘交出去,你得到的往往只是平均值;方向盘还在自己手里,作品才有可能超过平均值。
这也是为什么,AI 越强大,我们反而越需要打破黑盒。
企业数字员工(三)|智能体互联网的暗流量
企业数字员工(二)|企业 Claw 落地,不靠概念,靠五个支点
企业数字员工・黑灯办公室|让企业 Claw真正替你搬砖
支付行业进化(二):当AI Agent成为最大的”付款人”
支付行业的四次进化:从支付通道到智能生态
Obsidian + Claude Code 实践指南
用AI重写传统软件,是当下最大的创新风险
Token:新时代的“电”,我们还在点灯阶段