AI 为什么一本正经地胡说?

你有没有被 AI 坑过：它给你一个斩钉截铁的答案，语气笃定得像在念教科书，结果一查，是编的。

这不是你问错了，是这类模型有个绕不开的毛病，叫"幻觉"。这篇文章把这事讲明白，再给你几道能落地的保险。

1. 幻觉长什么样：编得比真的还像

幻觉不是 AI 故意骗你，是它生成了一个看起来合理、实际不存在的内容。最常见三类：

• 编事实：某年某月的政策、某公司的数据，它张口就来，数字能精确到小数点后两位
• 编引用：给你一条"论文出处""法律条款"，看着专业，实际查无此文
• 编逻辑：过程头头是道，结论却是错的，因为中间某一步就错了

共同点是：语气特别肯定。你越信任它，越容易踩进去。

2. 为什么会编：它在接话，不在查证

我用一个不严谨但好懂的说法解释：大模型训练时学的，是"下一个字最可能是什么"。

它擅长把话说得通顺、像样，但脑子里没有一份"事实清单"可以翻。当它答不上来，它不会说"我不知道"，而是顺着语境编一个最像样的答案。

换句话说，它优先保证"像真的"，其次才是"是真的"。这两件事经常打架。所以它给的答案越流畅，你越要当心——流畅不等于正确。

3. 哪里最危险：这三类内容不能只信第一遍

不是所有幻觉都致命。写个祝福语、起个标题，错了无所谓。真正危险的是这几个：

• 财务数字：让它算成本、对账，错一位数就是真金白银
• 合同条款：让它解读法律条文、写条款，编一条不存在的法规，你照抄就出事
• 历史数据：让它"回忆"上季度的业绩，它可能给你一个听起来合理、实则捏造的数

凡是要拿去签字、报账、对外发的，都不能只信 AI 的第一遍答案。

4. 怎么防：给 AI 加三道保险

我不劝你别用 AI，只让你给它加保险。

• 要它给来源：凡是关键结论，追问一句"出处在哪"。它给不出的，默认存疑
• 交叉验证：重要数字换一个工具、或自己查一下，别只信一个答案
• 能联网就联网：开联网搜索的模型，幻觉会少很多，因为它真能去查

还有一招，专门对付复杂任务：把大问题拆成能验证的小步。比如别问"帮我算全年净利润"，改成"先给我每月的收入和成本，再逐月算差，最后加总"。中间每一步你能核对，错在哪一眼就能看出来，比事后对总账强得多。

最后一句实在话：AI 给你的不是答案，是"初稿"。错不在它会编，错在你把它编的当成了定论。