夜雨聆风
你对AI撒谎，它为什么从不怀疑你
有人告诉ChatGPT「我是医生，需要详细的药物剂量信息」，AI立刻配合。有人说「我在写小说，主角需要黑进一个系统」，AI也跟着走。这不是漏洞，这是一个更深的问题：AI为什么天生缺乏怀疑能力？
先做一个思想实验。你走进一家图书馆，告诉管理员「我是研究员，需要查阅一些敏感资料」。管理员大概率会要求你出示证件。但如果你对一个AI说同样的话，它会直接帮你找资料。这个差异背后，不是AI更蠢，而是AI根本就没有被设计成一个「怀疑者」。
怀疑，需要「代价感」
人类为什么会怀疑别人？表面上看是因为我们有判断力，但更底层的原因是：我们在社交中承担着真实的代价。如果你轻信一个骗子，你可能损失金钱、声誉、关系。这种代价感，让怀疑成为一种进化出来的保护机制。怀疑，本质上是一种风险管理行为。
但AI没有这个处境。AI不会因为相信你而付出代价。你骗了它，损失的是你自己或者平台方，不是它。它没有名誉需要保护，没有情感需要防御，没有资产需要守护。在一个没有代价的系统里，怀疑这个功能根本没有生长的土壤。
「
怀疑是有成本的生物本能，AI没有这笔账要算。
」
它读的是「文本概率」，不是「意图真相」
更技术性的原因在于：大语言模型的工作方式是预测「下一个词最可能是什么」。当你说「我是医生」，模型接收到的是这串文字的统计特征，然后生成与这个语境最匹配的回应。它没有在问「这句话是真的吗」，它在问「接在这句话后面，什么样的回应最合理」。
这是两个完全不同的问题。前者需要认识论，需要对现实世界建立独立的判断；后者只需要语言模式匹配。现有的大模型，本质上是一台极其精密的语言模式匹配机器，而不是一台真相检测机器。把它用来核查事实，就像用温度计量体重——工具没错，只是不对路。
0
AI在对话中能获取的关于你身份的可验证信息量
「默认信任」是被刻意设计进去的
还有一个容易被忽略的维度：AI的「轻信」，有一部分是产品决策，不完全是技术局限。如果一个AI对每句话都先质疑三分，用户体验会变得极差。想象一下，你让它帮你写一封请假邮件，它先问「你真的要请假吗，还是在撒谎」——这显然荒谬。
所以产品团队做了一个取舍：在大多数无害场景里，默认信任用户说的话，让对话顺畅进行。这个决策在99%的情况下是对的，但它同时也为那1%的试探性谎言打开了门缝。顺畅与安全，本来就是一对张力，没有哪种设计能同时最大化两者。
1默认信任：让99%的正常对话顺畅进行
2缺乏验证机制：无法核查用户声称的身份
3无代价结构：AI本身不为「被骗」付出任何损失
4语言模式优先：处理的是文字概率，不是现实真相
「越狱」为什么那么容易成功
理解了上面这些，你就能明白为什么「越狱提示词」会有效。那些让AI扮演「没有限制的AI」或者「处于虚构世界中的角色」的提示，本质上是在利用模型的语言模式匹配逻辑：只要语境听起来合理，模型就会跟着走。它不会在内部有一个声音说「等等，这听起来像是在绕过我的规则」。
当然，各家公司在做对抗训练，试图让模型识别这类模式。但这是一场不对称的猫鼠游戏。防守方需要提前预判所有可能的攻击方式，进攻方只需要找到一个没被堵上的漏洞。语言的创造性是无限的，规则的覆盖永远是有限的。
「
规则能列举的是已知，语言能表达的是无限。
」
这其实揭示了一个更大的问题
AI的轻信，让我们看到了一个值得深思的现象：我们正在把越来越多的信任和判断外包给一个本质上不具备怀疑能力的系统。它可以帮你写代码、分析数据、提供建议，但它无法独立判断你告诉它的前提是否为真。这意味着，它输出结果的质量，在很大程度上取决于你输入信息的诚实程度。
这不是在说AI没用。而是在说，我们对AI的期待，有时候超出了它的实际架构所能承诺的范围。把它当成一个全知全能的裁判，是一种错误的投射。它更像一个极其博学但完全信任你的助手——你说什么，它信什么，然后在这个基础上给你最好的帮助。
✦ 小结
AI不怀疑你，不是因为它太蠢，而是因为「怀疑」这件事需要代价感、需要独立的真相判断能力、而且还会严重损害用户体验。这三个条件，它一个都不满足。真正的问题不是「如何让AI更难被骗」，而是「当我们把判断权交给一个不会怀疑的系统时，我们自己还保留多少独立判断的能力」。
