AI说不知道,可能比答得漂亮更值钱

观潮AI / AI与可靠性

“暂时无法确认。”

这句话放在AI回答里，往往显得不够聪明。我们希望它直接给数字、给名字、给一段完整文字，最好不要再把问题交回来。

但如果那个数字根本没有可靠依据，一个完整答案反而会把麻烦往后推。它很容易被复制到报告里，经过几次转发，再变成看起来已经确认过的事实。

9月26日提交、29日修订的一篇研究，关注的正是模型怎样在继续作答与停止作答之间做选择。研究把一类幻觉理解成没有足够支撑却仍然给出明确答案，并分析这种选择在模型内部怎样形成。

我们不必先理解所有技术细节，也能看见一个与日常使用有关的问题：AI最可靠的表现，有时是给你留下一个空白。

01
给出答案，与知道答案，不是同一件事

语言模型擅长组织语言。一个答案可以段落整齐、措辞确定、细节丰富，却仍然包含错误。表达的完整程度，不能当作事实的可靠程度。

遇到罕见名称、具体日期、最新变化或没有公开资料的问题，这个区别尤其需要留意。因为它们往往很适合被填成一个短答案，也最容易在缺少证据时被“猜得像真的”。

OpenAI在2025年关于幻觉的研究中提出，常见训练和评估方式会奖励猜测，而不能充分奖励承认不确定。如果答错和不答都失分，尝试给一个答案，就可能在统计上多得到一些分数。

这解释了为什么一张只看准确率的榜单，未必能完整描述使用体验。对用户来说，少答对一点与大量给错答案，不是同样的代价。错误如果需要经过检查才能发现，会把更多工作交给人。

可以做一个纯粹的假设：两个助手面对一百道题，一个给出六十五个正确答案和三十五个错误答案；另一个给出六十个正确答案、十个错误答案，剩下三十个明确无法确认。前者答对更多，后者却可能更适合某些需要可靠事实的任务。

这个例子不是产品测评，只是在说明评分标准。写小说时，空白可能打断创作；填一份事实表时，空白却提醒人还要核验。选择工具，应先看错误会造成什么后果，而不是只追求所有格子都填满。

当然，第二个助手也不自动更好。如果它把本来能回答的问题都拒绝了，工作一样会受影响。理想状态，是该答时能答，缺少关键依据时能停，并说明还缺什么。

02
新研究想知道，模型为什么没能踩住刹车

《The Commit-Abstain Circuit》研究了十个语言模型和三组评测，在被研究的模型里寻找与作答选择有关的内部组件。作者描述了一种模式：推动明确作答的信号较早累积，较晚出现的纠正信号，往往不足以改变已经形成的选择。

研究还尝试利用这些内部信号改善判断。它提供了一个机制层面的研究方向，不代表所有商业助手都已采用这套方法，也不证明幻觉问题已经解决。

对普通读者来说，这项研究的意义，是把“为什么这么自信”进一步拆开。一个系统可能表现出问题无法可靠回答的信号，却仍然沿着生成答案的路径走下去。是否发现不确定，与能否及时停下来，又是两层能力。

这个区别也说明，单靠在问题末尾加一句“请务必准确”，不能保证结果。提示可以改变行为倾向，但它没有凭空提供缺失的事实，也没有替代产品的训练、评估和纠错机制。

反复让同一个助手再答一遍，也不等于多了一份独立证据。几次回答可能一致，也可能来回变化；一致可能来自可靠材料，也可能来自相同的错误模式。次数和依据需要分别看。

因此，使用时更有效的动作，是追问它这句话依据什么，以及材料能证明到哪里。没有依据，就把状态保留为未确认。这样才能避免用更多语言把同一个空白遮住。

03
让AI把未知留下来，需要把任务写清楚

需要进一步区别的是“材料没有写”与“事实不存在”。在一份说明书里没有找到某个功能，只能先说明这份材料未能确认，不能直接断言产品绝对不支持。把查找范围写出来，会让否定判断同样保持边界。错误也可能发生在过于肯定的否定里。

如果需要继续查，可以先列出最少的补充材料：当前官方说明、对应版本文件，或能定位的原始记录。这样，停止作答就变成一项具体待办，而不是一句模糊的拒绝。补到材料后再更新答案，比在同一份有限信息上反复要求确定结论更有用。

在实际工作里，可以先改变一个要求：不要只让它“完成这张表”，还要允许它在无法确认的格子里保留空值，并解释原因。模型是否遵守需要检查，但任务至少不再把猜测当成唯一完成方式。

比如整理产品信息，可以指定只使用给定材料。材料明确出现的功能放进已确认栏，只有公司计划的放进计划栏，材料缺少的保持未确认。不要因为同类产品通常有某个功能，就补到这款产品身上。

整理事件时间线，也可以把“发布日期”“开始发货”“所有用户可用”分成不同列。很多看起来很小的错误，来自把几个不同日期合成一件事。多写一列，往往比再生成一段更漂亮的解释有用。

对于需要时效的内容，先确认资料时间。去年的介绍可以帮助理解背景，不能自动证明今天仍是相同规则。让AI指出哪些信息可能需要重新查，比默认全部有效更容易控制后续工作。

还可以要求它把事实与建议分开。“产品支持某功能”需要证据；“你可以先用它尝试某任务”属于建议。两者混在一起时，建议很容易借着事实的语气变成承诺。

一个可复制的提问方式是：“请先列出材料明确支持的内容，再列出合理推断。缺少依据的地方写未确认，告诉我需要补哪一类材料。”它没有保证模型不犯错，但让答案更容易被人检查。

检查不必对所有段落平均用力。挑出会改变决定的关键项，例如一个时间、一项费用、一个适用范围，回到原始材料。文字上的小误差和判断上的大误差，应按影响分别处理。

更重要的是，不要用“它给出了一个链接”作为核验终点。链接可能存在，页面却未必支持那句话。需要看内容是否相关，时间是否吻合，原文有没有被扩大。能打开网页，只是查到了入口。

同样，也不要让AI用一个百分比代替真实依据。它说“有九成把握”，不一定对应经过校准的概率。对普通工作更有用的，是哪些条件已确认、哪些仍需补材料，而不是一个看起来精确的信心分数。

这些动作不会要求每次聊天都变成研究项目。闲聊可以轻松一些；要把答案带给别人、写进文件或用于决定时，再提高标准。检查的力度应该与任务后果一起变化。

04
一个空白，能让责任停在可见的位置

假设一份方案里有一项尚未公布的交付时间。如果AI填上一个合理日期，方案会显得完整，团队却可能据此安排后续工作。如果它留空并说明等待确认，事情还没有解决，但问题留在了大家看得见的地方。

这种价值并不华丽。它没有生成更多内容，却避免把未知装成已知。对于协作，一项明确的待确认，通常比一项隐藏的错误更容易处理。

组织使用AI时，也可以把“适当地停下来”写进质量要求。除了看完成率，还看错误是否集中在重要位置、无法回答时是否说明原因、交接的人能否知道下一步查什么。

一项可见的未知，可以被补上；一项被包装成事实的错误，可能先被传下去。

当然，承认不确定不等于推掉工作。一个好的停止方式应该具体：缺的是当前价格、适用地区，还是原始文件；能先完成哪一部分，哪一部分等确认后再补。只回答“无法保证”而不给下一步，也很难帮上忙。

产品设计同样如此。如果界面永远奖励快速、完整和肯定的回答，用户就很难学会判断空白。把已确认、推断和未确认清楚展示出来，可能让答案少一点爽快，却更适合带进真实任务。

评估一个AI助手，可以挑一道你已经知道答案的题，再挑一道材料确实不足的题。前一道看它能否答对，后一道看它是否知道该停。这不是完整测评，却能帮你从“它说得多好”，转向“它怎样处理边界”。

我们当然希望AI越来越能干，也希望它在该继续的时候继续做。但下一次它明确说某一点还无法确认，不必马上要求它换成肯定语气。先看它缺的是什么。那个空白，有时正是答案里最值得保留的部分。

观潮AI · 看见变化，读懂选择