暑期AI学习培训有感:会思考的人会越来越强

QUOTE

会思考的人会越来越强，不会思考的人，会沦为韭菜。

最近暑假去培训学习了一段时间，这期间的学习让我认识到了很多自己的不足，也深刻反思了很多。

在我学习的过程中，我发现有人乐观地相信，AI 会让每个人都变成超人。但其实，我自己也做过了很多和AI相关的尝试，我发现更可能发生的情况，其实是AI 会放大会思考和不会思考者之间的差距。

而且我越来越认可这个判断。

— 同一个 AI 答案，在继续核查和直接相信之间放大差距

就拿我们每个老师都要做的科研或者项目来说，现在让 AI 写一份报告、解释一个概念，或者列几篇参考文献，实在太快了。几十秒以后，标题有了，结构有了，文献作者、期刊名称、年份甚至 DOI 也都排得整整齐齐。

但很多人到这就飘了，觉得好像科研也不过如此，随便让AI做不就行了，大不了多消耗一些token。

说这话的人如果真的尝试了就会发现，一个错误如果写得吞吞吐吐，我们很容易怀疑它。可当它语气坚定、格式完整，还顺手列出几条看起来很专业的依据时，很多人第一反应就不是核查，而是觉得，它都写得这么具体了，应该不会有错吧。

AI 时代真正危险的，也许不是我们暂时不知道一个答案，而是我们拿到一个错误答案以后，误以为自己已经知道了。

本文看点

所以我想先说个结论，之前的老话说的不假，强者恒强，而AI 更是会放大这种差距。

2025 年发表于《经济学季刊》的一项研究，观察了 5,172 名客户支持人员使用生成式 AI 助手的情况。AI 辅助让员工平均生产率提高了 15%，经验较少、技能较低的员工在速度和质量上改善得更明显。

这个结果并不奇怪。客服问题的边界相对清楚，企业又有大量历史数据和成熟员工的处理经验，新员工以前要慢慢记住的表达方式和解决流程，现在可以直接从 AI 的建议里学到。在这种任务上，AI 的确能帮助一个新手更快达到合格线。

但达到合格线，不等于认知差距消失了。

客服研究解决的是一个边界比较清楚的问题，什么算处理完成，客户是否满意，企业都有相对及时的反馈。可现实中还有很多问题，根本没有现成的标准答案。要不要相信一项新研究，一份政策会影响谁，一种治疗方案是否适合自己，一只股票为什么突然被反复推荐，很明显，AI把文字组织完整很简单，但是指望它先判断哪些信息重要、哪些证据可信就要打个大大的问号了。

会思考的人之所以会越来越强，就强在这里。

我之前的文章也谈到过，有经验的开发者和小白，开发出的东西一定是有很大差别的。现在网络上遍地都是我不会代码，但我做到了xxx，说实话，很多点进去发现都只是一个噱头，做出来的东西博个眼球就完了。一个真的懂的人原来就已经有成熟的经验，所以知道怎样把一个大问题拆开，也知道 AI 的回答里哪句话不合常理。AI 一次可以给他十种解释，他不会十种都收下，而是让 AI 继续找反例、比较冲突材料，再回到论文、政策原文、专业数据库或者真实数据里核对。核对以后留下来的东西，又会进入他原来的知识体系。下一次遇到类似问题，他问得更准，判断也更快。

AI 给他的并不只是一个答案，而是把搜索、比较和试错的成本降了下来。省下来的时间被他继续用来学习，于是旧知识帮他筛选新信息，新信息又让下一次筛选更准确。这个过程一旦重复起来，就像知识在产生复利。

基础薄弱、又习惯直接相信答案的人，走的是相反的方向。他不知道一个数字为什么可疑，也不知道一条政策通常应该去哪里找，于是很容易把流畅当成正确，把列了出处当成已经核验。错误先进入报告、方案和日常判断，下一次他又拿着这个错误前提继续问 AI。AI 当然可以顺着这个前提，把后面的解释写得更完整。

第一次只是一个小错误，第二次就可能变成一套看起来能够自圆其说的错误认识。这也是一种复利，只不过积累的是错误。

CHI 2025 的一项研究调查了 319 名知识工作者，收集了 936 个使用生成式 AI 的真实任务案例。研究发现，对 AI 越有信心，与较少的批判性思考投入相关；对自己完成任务的能力越有信心，则与更多的批判性思考相关。这项研究是自我报告，不能直接证明 AI 让人停止思考，但它至少和我们使用 AI 时的一个现实对得上：越没有自己的判断，越容易被一份完整答案牵着走。

所以我说的强者，并不是学历更高、会写更复杂提示词的人，而是那些手里原本就有一点知识，还愿意为自己的判断负责的人。AI 把生成答案的门槛降得很低，却没有把验证答案的门槛一起降下来。恰恰是后面这道门槛，开始决定谁会越来越强。

美国国家标准与技术研究院在生成式 AI 风险管理框架中，对 AI 幻觉用了一个很准确的描述：模型会自信地呈现错误或虚假的内容。

文件还专门提到，模型可能生成虚假的推理过程和引文，用来解释自己的答案。答案是错的，论证它的步骤却一环接一环；文献根本不存在，作者、题目和期刊格式却像模像样。

— 一份看似权威完整的答案，拆开后可能藏着查不到的假引文

它甚至不需要把整篇内容都写错，只要在关键地方错一次就够了。

一篇论文里编出一条不存在的文献，后面的论证可能跟着失去依据；一份项目方案里把政策适用对象理解错，预算和进度做得再漂亮也没有用；一个人询问药物、保险、投资或者法律问题时，如果其中一条关键条件是假的，他付出的就不只是返工时间。

更麻烦的是，AI 不知道这条答案对你意味着什么。它不知道你只是随便看看，还是准备拿这段话去签合同、买产品、调整治疗方案。它只负责继续生成，而错误造成的代价，最后还是人来承担。

我觉得这比一个明显的错误更难处理。明显的错误会逼着人继续查，一个看起来很专业的错误，却会让人误以为核查已经结束了。

前段时间国家还专门发了个帖子，警惕日本某些人投放垃圾信息污染数据。所以说真正的数据污染离普通人的生活并不远。

最直接的一层，是技术意义上的数据投毒。2023 年一项网络规模训练数据集安全研究展示了两类现实攻击路径。研究者报告，在他们测试的条件下，只需 60 美元，就可能影响 LAION-400M 或 COYO-700M 数据集的 0.01%。这个实验不能证明我们今天看到的某条回答已经被人恶意投毒，但它恰恰说明，你的数据仓库是可以被动手脚的。

还有一种污染，根本不需要入侵任何系统。只要在公开网络上批量生产内容，反复转载同一套说法，占据足够多的页面和关键词，就可能制造一种到处都在这样说的感觉。重复当然不会让假话变成真话，但会让它更容易被搜索到、更容易被引用，也更容易被 AI 汇总进答案。

KDD 2024 的一项研究提出生成式引擎优化，在它的实验和基准中，相关方法可以把内容在生成式回答中的可见性提高最多 40%。做内容优化本身不等于造假，更不等于数据投毒。可这项研究已经说明，怎样让自己的内容进入 AI 的回答，正在成为一门可以专门研究的技术。

品牌希望产品被推荐，机构希望自己的观点被引用，利益相关方希望某种解释排在前面。谁生产了更多内容，谁更懂平台规则，谁就可能获得更多进入答案的机会。可被看见得多，只能证明传播能力强，不能证明它更接近事实。

还有一层更麻烦。AI 生成的文章、问答和图片正在重新回到互联网，又可能被后来的系统收集。2024 年发表于《Nature》的一项研究发现，如果训练时不加区分地使用模型生成内容，原始数据分布中那些不常见的信息会逐渐消失，模型会出现不可逆的缺陷，研究者把它称为模型坍塌。

这不等于今天的 AI 明天就会突然失效，也不等于所有 AI 内容都会污染模型。它真正提醒我们的是，当机器生成的内容越来越多，真实的人类经验、少数意见和不常见但重要的信息，反而可能更难留下来。网络上最后剩下的，可能是一大批互相改写、语气相似、看上去彼此印证的内容。

到那时，错误不只是某一句话写错了。它可能改变一个产品被怎样推荐，一种疾病被怎样理解，一项投资风险被怎样描述，一段历史和一个公共事件被怎样记住。过去的广告还会告诉你它是广告，AI 把许多材料揉成一段自然回答以后，商业诉求、立场和原始出处很容易一起消失。

— 逆着 AI 答案追查原始来源、信息入口和利益关系

所以我的态度很明确，AI 给出的不是一个站在所有利益之外的标准答案。它是训练数据、网络内容、平台排序、安全规则和当前提问共同加工出来的结果。我们当然可以用，但不能对它交出最后的信任。

会思考的人照样会用 AI，而且往往用得更多。我也不赞成因为害怕幻觉，就把所有资料都从头抄一遍。问题从来不是用不用，而是我们有没有保留那一步自己的审查。

最后这个问题尤其重要。让 AI 帮你改一段通知，错了还能重写；让它影响用药、投资、合同和公共判断，核查标准就不能还是一样。会思考，不是对每个标点都怀疑，而是知道哪里一旦错了，代价最大，然后把有限的时间用在那些地方。

如果是需要查资料、引用政策、分析案例或者形成专业判断的作业，我更想让学生多交一页来源审查记录。页面不用做得很复杂，可以从 AI 答案里挑出三条真正影响结论的信息，比如如果有结论，这个结论的原话最初来自哪里，是链接还是网页，是论文还是视频，不要只给我一段AI对话；还有要核验数据的准确性，比如参考文献，他的作者，题目等等信息是否对得上。 |

— 让 AI 答案经过来源、证据、缺失角度和利益关系检查

AI 当然可以帮助一个基础薄弱的人更快完成任务，这一点不应该否认。可当每个人都能生成一份像样的文字以后，真正拉开差距的，就不再是谁先拿到答案，而是谁在一次次使用中积累了更可靠的认识，又是谁把一次次没有核查的错误继续带到了下一次。

我不觉得这是一个可以轻描淡写的问题。答案越来越便宜，判断反而会越来越贵。谁能看出一条证据撑不起那么大的结论，谁会追问信息从哪里来、谁希望我相信它，谁才真正拥有这份答案。

所以我说

AI 会放大会思考和不会思考者之间的差距。会思考的人会越来越强，不是因为他比别人少用 AI，而是因为 AI 给完答案以后，他还知道接下来应该做什么。

以后学生交一份 AI 参与完成的作业，你最想让他额外证明哪一件事？是来源真的存在，还是他能够解释自己为什么相信这个答案？

点滴小甜豆

文章：暑期AI学习培训有感：会思考的人会越来越强

点滴小甜豆 · 高校教师的 AI 教学与教研成长