ARTICLE · 1124156
怎么才能不上AI的当?
怎么才能不上AI的当?
我们都知道AI会睁着眼说瞎话，输出光鲜漂亮、看起来合理的文本，但可能是个错误结论，甚至根本就不是事实。因此，人必须有能力对AI的输出结果做出正确判断，进而对自己选择的结果负责。 对错有两类：一类是事实的对错，有客观标准答案；一类是价值观的是非和此一时彼一时的对错，取决于立场、原则、场景等。两者的判断方法自然也不一样。 这类结论是可以证伪的，比如AI给出的一斤土豆的价格、法条、专业原理等。对这类问题做出判断需要的能力包括： 不需要成为什么顶级专家，但要有基础边界认知：知道这个领域什么是合理范围、哪些是反常结论。例：你知道北京一斤土豆不可能100元一斤，看到AI给出这个离谱数字，立刻警觉；比如，但凡懂点物理知识，很容易识别AI编造的有悖于物理常识的结论。 当然，如果面对的是完全陌生领域，人就很难直接分辨AI幻觉，必须靠外部核验或借助第三方了，比如：有效控制斑块的低密度蛋白的理想值。 溯源和查证就是识别AI给出的究竟只是它的断言还是有具体的权威出处。因为AI经常编造引用、虚构报告，有溯源习惯就能揪出来。这里边的关键是： 检查AI输出的内容内部是否自洽，比如：前后的时间、数据、定义会不会自相矛盾。例如：前面说某件事发生在2025年，后面又写发生在2023年；比如，一套管理模型的定义和后面的举例是冲突的。因为，AI当下的能力通常擅长局部通顺，但长文本容易出现隐性矛盾。 识别AI的语气陷阱：AI经常用肯定句式，把推测、假说、小众观点包装成定论，容易让人信以为真。人要能够读出其表述背后的置信度：哪些是公认结论，哪些只是一种学术假说。 这类结论没有客观的真假和对错，比如管理方案、人事建议、利弊取舍、道德选择。这时候重点判断的是：合不合适、是否符合原则、代价能否接受等。需要的能力包括： 要先清楚自己和组织的底层原则。假如，你服务的是一家国企，那么组织变革方案的价值基准可能包含：合规、稳定、风险可控、符合政策导向等。如果AI给出一个效率很高但触碰合规红线的方案，它就是不可行的。如果没有稳定的价值框架，很容易被AI流畅的论证带着走。 AI往往偏向给出“最优纸面方案”，容易忽略隐性代价、长期副作用、人性因素等。人要能够评估：方案的收益是什么？潜在的风险、次生问题、成本是什么？短期没问题，那么长期会不会反噬？比如：AI写的人才激励方案，可能只关注了激励效果，但忽略了内部公平、历史遗留问题。 同样一句话、一个方案，换一个场景就可能从合理变得“不合时宜”。例如：市场不景气时的大裁员逻辑，放在民营企业可能可行，但放在国有企业可能就不适用。判断对错离不开对组织环境、文化、约束条件的理解，这类场景知识AI很难完整掌握。 知道自己哪里不懂。不懂的时候，不盲目相信，也不盲目否定，而是标记为待核验，不直接下判断。人容易把AI流畅的表达当成专业，尤其在自己知识盲区里。 文字通顺、结构漂亮、用词专业，不等于内容正确。AI的强项就是润色包装，哪怕是幻觉，也可以写得逻辑优美。人要学会剥离文笔去审视它的内核。 理解AI会出现的问题，比如：幻觉、过时知识库、偏好迎合用户、强化用户固有偏见、容易顺着你的提问方向编造答案，等。知道AI的能力边界，就不会把AI当成权威，而是当成辅助工具。 不过，说到“知识盲区”，真能够清楚认识到这一点，其实并不是那么容易的一件事。 梁漱溟老先生把做学问划分了八个层次：1.形成主见→2.发现不能解释的事情→3.融会贯通→4.知不足→5.以简御繁→6.运用自如→7.一览众山小→8.通透。但是，连老先生自己都说他只做到了前四层，可见做学问是需要“艰苦奋斗”的。 我们可以通过优化提示词，减少AI的胡言乱语，所以，提示词工程也是AI时代我们有必要掌握的一项软技能。 同时，我们应该相信，AI会越做越好。
一、事实类判断
1.基础领域常识与专业知识
2.溯源与查证能力
优先采信一手信息源，如：官方文件、标准、原始论文、权威数据库； 学会识别二手转述、自媒体、匿名网文； 向AI追问证据：“这个结论出自哪份文件？原文怎么写？”。
3.逻辑一致性校验能力
4.区分“可能性”和“确定性”
二、价值类判断
1.清晰的价值基准
2.权衡利弊与风险预判能力
3.场景感知能力
三、通用底层能力
1.认知谦逊，识别自身盲区
2.批判性思维
区分观点和事实； 识别隐含假设（AI通常不会明说它的前提）； 警惕片面论证，只讲有利论据，回避反面证据； 识别修辞诱导：华丽的排比、权威感话术、情绪渲染，掩盖论证缺陷。