AI Engineer 大会分享:从信任到控制,AI 产品 UX 设计的 5 个关键

Kathryn Grayson Nanz 在 AI Engineer 的分享《The UX of AI: Making AI-Powered Apps Your Users Don't Hate》里，讲的就是这个问题。

Kathryn 是 Progress Software 的 Senior Design and Developer Advocate。她的背景横跨设计、前端开发和开发者关系，长期关注开发者如何做出更友好、更容易被用户接受的软件体验。

Progress Software 是一家美国企业软件公司，体量大致相当于国内的金蝶、用友这一类厂商，主要面向企业客户提供应用开发、数据管理、数字体验、基础设施运维等软件产品。

这场分享里，她把 AI 产品体验拆成五个问题：

她的出发点是：现在几乎所有软件都在加 AI，但很多产品只是加了一个 AI 按钮、一个输入框、一句“Ask AI”，然后默认用户知道该怎么用。

但用户未必知道。

下面按这五个部分，整理一下她具体讲了什么。

1. 信任：让用户能验证，而不是只要求用户相信

她先讲的是信任问题。

在普通用户眼里，AI 经常像一个黑箱。它有时候回答得很好，有时候又会生成看似自信、实际错误的内容。哪怕模型越来越强，也没有产品团队能保证 AI 永远不出错。

所以，Kathryn 不建议产品团队用一句“我们的 AI 更可靠”来解决信任问题。

她给出的方向，是给用户验证 AI 的方式。

她提到几种具体设计：

她的意思是：AI 不必被包装成一个绝对权威的专家，而是可以被放在一个可检查的位置上。

如果 AI 帮用户生成了一段可以放进报告、邮件、方案或演示里的内容，用户需要的不只是“这段话写得不错”。

他们还会关心：

对于 agent 类功能，信任问题会更明显。

当 AI 不只是回答问题，而是开始自己执行任务时，用户需要先看到它准备怎么做。比如在 Claude 或 ChatGPT 的 agentic 功能里，常见做法是先生成一个行动计划，让用户确认后再开始执行。

如果一个 agent 没有展示计划，也没有说明为什么要执行某个动作，用户就很难信任这个工具。

2. 清晰：不把 AI 做成魔法

很多产品喜欢把 AI 做得很“魔法”。

界面上放一个闪光图标，文案写得神神秘秘，让用户感觉背后发生了什么很厉害的事。

但 Kathryn 认为，用户需要的不是神秘感，而是清楚知道发生了什么。

AI 功能本来就容易让用户觉得不透明。如果产品继续把过程藏起来，用户只会更不安。

她提到的第一个设计方式是流式输出。

流式输出不只是为了缓解等待，也能让用户在内容生成过程中保持参与。用户看到内容一点点出来，可以马上判断方向对不对。如果不对，可以停下来、补充说明、修改要求，而不是等系统完整生成后才发现整段都不能用。

她还提到，要让 AI 尽量展示可公开的处理步骤。

这里不是指暴露所有底层推理细节，而是让用户理解：系统为什么这样回答？用了哪些线索？中间大概经过了什么步骤？

另一个具体方式，是标出 AI 改动过的地方。

比如 agent 修改了一段文字、生成了新内容、改了代码、更新了页面，产品可以用高亮、颜色、边框、滚动定位等方式让用户看到变化发生在哪里。

用户看到的不只是“结果变了”，还包括“哪里被 AI 动过”。

3. 控制：让用户能停止、撤回、局部修改

AI 工具经常被描述成个人助理或初级同事。

但任何一个真实同事都可能误解任务。AI 也一样。

用户可以把任务交给 AI，同时保留对过程的控制。

Kathryn 提到了停止按钮。

如果 AI 正在生成内容、执行流程、运行代码、操作浏览器或调用工具，用户可以随时停止。这个停止入口不适合藏得很深，也不适合依赖用户记住某个命令。

越是高风险、越是紧张的场景，停止按钮越需要容易被看到。

停止之后，还要能撤回。

她把这和传统软件里的安全探索原则联系起来：用户可以尝试、撤销、回到前一步，而不是一旦试错就被困住。

因为 AI 输出经常不是完全正确或完全错误，而是有些部分能用，有些部分需要改。

所以她提到几种设计：

她还提到 token 成本的问题。

如果每次不满意都只能“重新生成一次”，不仅体验差，也会浪费 token、时间和费用。更细粒度的修改能力，可以让用户更高效地和 AI 协作。

4. 透明：权限、记忆和成本要讲清楚

当 AI 功能开始接入更多工具时，透明度会进入体验设计。

AI 可能要读邮件、查日历、访问本地文件、连接数据库、运行脚本、调用第三方系统。对产品来说，这些是能力；对用户来说，这些也是风险。

Kathryn 说，权限不能只是简单的 yes or no。

用户需要知道：

她还特别提到“记忆”。

如果 AI 产品会保存用户过去的交互、偏好或上下文，那么产品不只涉及“记住”，也涉及“忘记”。

她提到，用户可以看到系统记住了什么，也可以修改或删除这些记忆。

成本也是透明的一部分。

当用户批准一个 AI 任务时，可以知道这件事大概要花多久、消耗多少 token、额度、积分或费用。即使不能给出精确数字，粗略估计也能帮助用户判断是否要继续。

对于 agent 自主操作，她还提到一个视觉提示：当 AI 正在独立控制某个界面、浏览器或工作流时，产品可以有明显的状态标识。比如 banner、sidebar、outline，让用户知道现在不是自己在操作，而是 AI 正在执行。

这能让用户知道当前状态，也能减少误操作打断正在运行任务的情况。

5. 有意义的收益：不只给一个空输入框

很多 AI 产品犯的错误，是默认用户知道怎么使用 AI。

产品给用户一个空输入框，写一句“Ask AI”，看起来很简单，但其实把很多工作都丢给了用户。

用户要自己想：

对于 AI 熟练用户来说，这些都不是问题。但对大多数普通用户来说，这些会变成门槛。

所以，AI 产品不能只给输入框。

它可以提供示例、模板、推荐 prompt、结构化流程，让用户知道什么样的输入更容易得到好结果。

Kathryn 还提到“下一步动作”。

AI 生成结果不是用户任务的终点。用户通常还要把结果放进文档、发邮件、做报告、建工单、生成演示、分享给同事，或者继续接入其他工具。

所以在 AI 输出之后，产品可以提供自然的下一步。

比如：

如果 AI 生成的东西无法进入用户原本的工作流，它就很容易停留在“有点新鲜”的阶段，而不是变成可长期使用的工具。

原视频：https://www.youtube.com/watch?v=L3RuP_q8Bwc