夜雨聆风简述：
生成式AI降低了知识生产、表达和学习的门槛，却提高了真实性判断与来源验证的门槛。如果人长期把信息搜集、理解、验证和决策全部交给AI，就可能逐渐丧失判断能力。因此，AI时代真正需要守住的不是单纯的知识，而是认知主权：人可以借助AI扩展信息范围、建立认知框架和提高执行效率，但必须保留对证据标准、知识吸收和最终决策的控制权。
生成式AI最大的问题是幻觉，在2022年底以前，书籍、论文和专业文章的生产通常具有一定门槛。一个人想要公开表达某个专业观点，往往需要经过长期学习、资料查阅、写作修改，甚至编辑审校和同行评议。这样的机制并不能保证所有内容都是正确的，但至少在一定程度上限制了低质量内容的产生速度。GPT问世以后，文字内容的创作者呈现出爆发式增长，其中AI生成的文本比例也在逐年提高，大多数人会开始认同：AI写得比自己更完整、更流畅，甚至比自己更“专业”。但问题也恰恰出现在这里。当创作门槛下降以后，有专业能力、能够验证内容的人可以借助AI提高效率；没有专业能力、也缺乏验证能力的人，同样可以借助AI写出一篇表面上结构完整、语言专业的文章。
对于后者，最重要的问题是：他是否真正理解自己发布的内容？他是否验证过其中的事实、论证和结论？
即便是具备专业水平的作者，也未必能够完全避免这个问题。人具有惰性。当AI生成的文章前半部分写得很好时，作者是否会不自觉地认为，后面的内容大概也不会有问题？当一段文字足够流畅、结构足够合理时，人是否会把“看起来正确”误认为“确实正确”？
在写作这个过程中存在着不同比例的AI创作，或是辅助作者润色全文，或是代替作者完成某个段落，更或者最极端的情况下，一篇文章虽然以人的名义发表，其中却几乎没有真正属于人的理解、判断和验证。AI生成内容，作者简单浏览后发布；读者默认作者已经核实；平台则认为内容应由作者负责，而AI本身并不承担任何责任。最终，一篇文章可能被大量阅读和传播，却没有任何人真正对其中的知识负责，这是很可怕的一件事情。如果我们成年人尚且已经存在这种相信AI的倾向，那那些更年轻以至于小学就一直在这样的环境中成长的孩子又会形成什么样的判断能力？当一个人习惯于让AI回答问题、组织观点、作出判断，他还是否能够独立判断自己的行为、价值观和是非？更进一步说，当判断不断被跳过或者逃避以后，人是否还会保有判断能力？这可能是生成式AI时代最值得警惕的问题。
当然，这个技术本质上是一把双刃剑，它降低了学习新事物、理解陌生领域和完成复杂工作的门槛，却同时提高了判断信息真伪、验证知识来源的门槛。过去的问题是获取知识困难；现在的问题可能是信息极易获得，但正确知识被埋在大量真假混杂、语言流畅的内容之中。既然时代的洪流不可逆转，那么问题的关键并不是要不要使用AI，而是如何使用AI。
从我的实际使用经验来看，大多数情况下，当我们向AI提出一个大致的问题时，它通常能够给出一个相对合理的框架。这个框架中的大部分内容可能是正确的，但其中也可能夹杂一些错误。如果一只蘑菇可能有10%的部分带毒，我们大概不会食用它。
然而，大模型的情况又有所不同。AI的问题不是固定存在“10%的错误”，而是我们往往不知道错误究竟出现在哪里。它可能在常识性问题上非常可靠，也可能在专业细节、文献数据、公式条件或具体设备问题上突然出错。最危险的地方在于，正确内容和错误内容往往使用完全相同的语气和表达方式。AI不会因为自己在胡诌，就表现得支支吾吾。相反，它可能以非常确定、非常完整的方式给出一个并不成立的结论。
AI输出中存在错误，并不意味着全部内容都毫无价值。人类本身的认知也并非一开始就是完全正确的，我们不会因为某个阶段存在错误，就放弃对整个事物的探索。AI提供的框架，仍然可以帮助我们快速建立对一个陌生系统的初步认识。问题不在于能否使用这些内容，而在于能否清楚地认识到：这些内容只是暂时性的认知材料，还不是已经得到验证的知识。
那么要怎么去使用，我觉得至少要考虑几个问题：
第一，我是在用AI学习，还是把AI当作工具？ 第二，我的具体使用场景是什么？ 第三，如果涉及科学、工程或专业问题，这个论述是否具有可靠的信息来源，例如论文、公式推导、权威书籍、技术标准或官方网站？ 第四，AI给出的结果是否能够以较低成本进行验证？ 第五，如果这个结论是错误的，可能造成多大的后果？ 
如果是学习，那么目的是为了建立认知，认知需要考虑广度和深度，但是比认知更加关键的一点是：需要确定认知的正确性。AI可以帮助我们解释概念、建立框架、梳理脉络，也可以让我们快速知道一个领域中可能存在哪些问题。但未经验证的AI输出，不应直接进入人的知识体系。AI可以胡诌，人却不能把胡诌的内容直接记入脑中。真正的学习，不是把AI给出的答案记住，而是把它当作认知起点，再通过教材、论文、公式、实验和实践进行验证。只有当一个人能够解释某个结论为什么成立、适用于什么条件、可能在什么情况下失效时，这个知识才真正属于他。
如果把AI当作工具，那么关注重点则有所不同。例如，让AI整理资料、修改文字、生成代码框架或处理数据，核心不在于AI是否真正理解，而在于输出结果是否符合要求、是否能够验证、是否方便纠错。这就要求使用者一开始提供清楚的输入、约束条件和评价标准。AI可以提高执行效率，但使用者必须知道自己最终想要什么，也必须能够判断结果是否合格。
除此之外，还有一类使用比学习和工具更加危险，那就是决策。在科研方向、工程方案、职业选择、医疗问题或价值判断中，AI可以帮助人列出方案、分析利弊、补充遗漏因素，却不应该代替人完成最终判断。因为AI并不承担决定带来的后果。只要最终后果仍然由人承担，最终决定权就不能被完全交给AI。
最后谈谈AI的一些思考：生成式AI时代真正需要保护的，可能是一种“认知主权”。所谓认知主权，并不是凡事都必须依靠自己完成，也不是拒绝AI，而是一个人仍然保有决定相信什么、依据什么采取行动，以及对最终判断承担责任的能力。
文章的题目谈到坚守、模糊和发展。
坚守是什么？AI可以参与人的认知过程，却不能取代人成为认知的主体。这也是我所理解的“坚守”。坚守不是拒绝技术，也不是坚持自己永远正确，而是不被流畅的语言和完整的结构轻易带动，不因为AI语气肯定就全部相信，不因为它前半段写得很好，就默认全文都没有问题。人始终应当成为AI内容进入自己头脑之前的最后一道关卡。
而“模糊”则代表另一种认识。哲学告诉我们，人类对事物的认识往往具有阶段性和暂时性。很多时候，我们并不能一次性获得绝对真理，而只能不断接近真实。但认知具有模糊性，并不意味着所有说法都同样正确，也不意味着我们无法行动。关键在于，一个结论是否适用于当前场景，是否具有足够证据，是否经过实践检验，以及我们是否清楚它仍然存在的局限。经过验证、能够解决现实问题的认知，即使不是永恒真理，也具有实际价值。科学的发展本身，就是不断提出假设、接受检验、修正错误并逐渐接近真相的过程。
所以，模糊不等于混乱，而是承认自己的认知存在边界；坚守也不等于固执，而是在不确定中仍然保留判断、验证和修正的能力。
这就是我目前对生成式AI的基本看法。AI降低了知识生产和学习的门槛，却提高了知识验证和独立判断的门槛。它可以帮助人建立认知框架、扩展信息范围、提高执行效率，但不能替人决定什么是真实、什么值得相信，以及人最终应当如何行动。
如果用一句话概括就是：不要在没有系统认知的情况下让AI帮你拿主意，而只能把AI当做一个可供参考的可靠性信息整合源、一个高效的信息整合者和认知辅助者，但知识是否成立、判断是否合理、行动是否值得，最终仍然必须由人负责。