人类正滑向“认知卸载”的深渊,数字世界的操控权在被谁握紧?丨 深度研究 · 科技与社会 * AI

2026年，全球AI模型和平台市场的终端用户支出预计将达到642.52亿美元，较去年增长63.4%。中国AI大模型市场规模预计突破700亿元，三年复合增长率超过40%。

我们正以前所未有的速度将思考“外包”给机器。

从日常文案撰写、学业答题，到工作方案梳理、生活决策参考，生成式AI已深度渗透普通人的生活。输入一个问题，输出一段答案——思考的过程被压缩成了毫秒级的响应。这很高效，但也令人不安。

我们是否正在用效率换取独立思考的能力？

一、“认知卸载”：当大脑习惯了“捷径”

瑞士商学院（SBS Swiss Business School） 战略企业前瞻与可持续发展中心一项涵盖600多人的研究发现，17至25岁的年轻人比年长者更依赖AI，而他们的批判性思维得分也相应低了约45%。这并非偶然。当AI随时可以提供“合理答案”，人的大脑会本能地选择最省力的路径。

这种现象被研究者称为 “认知卸载” ——借助工具来减少脑力劳动。卡内基梅隆大学与微软联合进行的研究发现，如果人们过度依赖AI，解决问题的能力可能会下降。英国牛津大学出版社、施普林格等权威机构的研究显示，AI虽然能提升学习速度，却往往以牺牲深度思考、批判性思维、创造力和长期技能发展为代价。

一项由中国青年报社社会调查中心联合问卷网针对1500名受访者的调查显示：89.2%的人感觉过于依赖AI后，独立探索思考的机会变少了；54.9%的人担心过度依赖AI会忽略自身成长。人们明知过度依赖会削弱独立思考能力，却仍难以割舍技术带来的便利。

二、AI的“自信陷阱”：为什么我们容易被误导

问题的另一面在于：AI不仅诱导我们放弃思考，还常常以令人信服的方式提供错误答案。

大语言模型存在系统性的过度自信问题。国际放射学领域顶级期刊《Radiology》的一项医学领域的研究发现，AI模型在回答错误时，对自身答案的置信度评估仍然高达8/10以上，揭示了AI模型的过度自信与其实际准确性之间的显著差距。这种现象类似于邓宁-克鲁格效应——能力越低的人越容易高估自己。

更令人警惕的是AI的“幻觉”问题。清华大学新闻学院、人工智能学院双聘教授沈阳团队发布的报告指出，市场上多个热门大模型在事实性幻觉评测中幻觉率超过19% 。而由麦可思研究院的第三方调研《2025年高校师生AI应用及素养研究》显示，近八成的高校师生曾遇到过AI幻觉。社交平台上，AI幻觉相关话题浏览量达数百万，网友吐槽涉及金融、法律、医疗、学术等多个领域。

一项针对AI新闻助手的大型研究显示，45%的AI回答存在至少一个重大问题，31%的回答存在来源问题——缺失、误导或不正确的引用。AI可能支持错误决策、加剧虚假信息的传播。当AI以不容置疑的口吻输出错误信息时，普通用户很难识别——尤其是在自己已放弃独立思考的情况下。

三、一个更深的危险：数字世界的操控权正在被谁握紧？

如果说AI幻觉和误导只是“无心之失”，那还有一层更隐蔽、更致命的威胁。

虚拟数字世界可以被人为操控、篡改，甚至系统性扭曲事实。现实中，部分AI产品的训练数据来源和筛选机制并不透明，其输出的“客观答案”，背后可能隐含着商业利益、意识形态倾向甚至政治立场的引导。

清华大学的报告指出，传统检索增强生成过程中存在严重的信息污染风险——搜索引擎里的错误信息和偏见内容会直接通过RAG进入模型的最终输出。这意味着，AI不仅会犯错，它的“错误”可能恰好指向某个特定方向。

更深层的问题在于：当亿万用户的日常信息获取、知识学习、决策判断都依赖于某几个AI模型时，虚拟世界便获得了间接操控人类意志的能力。

这让人想起电影《头号玩家》（Ready Player One）中的情节——反派IOI公司企图通过控制虚拟世界OASIS来掌控现实世界，数百万用户沉溺于虚拟空间，其认知、消费、行为乃至思想都被巨头所塑造。在电影里，至少还有一个主角在反抗；而在现实中，大多数人甚至意识不到自己正在被引导，也就根本无从反抗。

AI不会主动“统治”人类，但它可以悄无声息地改变我们的参照系。如果底层数据有选择地呈现、算法逻辑有偏好地推导，那么用户接收到的“事实”就成了加工过的产品。而一旦用户对其形成依赖，便丧失了质疑和验证的动力——久而久之，AI便成了事实的裁断者，而不是事实的索引者。个人在信息茧房中越陷越深，社会共识在扭曲的信息场中愈发撕裂。

更危险的，是这种“思想控制”极其隐蔽。它不像电影里那样用强制性手段夺走人的自由意志，而是通过“定制化的便利”和“拟人化的迎合”让用户心甘情愿地把判断权交出去。真正的危机，不是AI太强大，而是人类太懒惰。这种长年累月的“懒惰”也许在助长培育一个现实世界的“IOI公司”。

四、如何守住思考的主动权

面对这些风险，解决方案不能是“拒绝AI”——这不现实，也不明智。关键在于重新设计我们与AI协作的方式。

从AI开发和训练的角度

1. 价值对齐（Value Alignment）

“宪法AI”（Constitutional AI，Anthropic公司于2022年提出的一种前沿AI训练方法，旨在让AI不再单纯依赖人类反馈，而是遵循一套明确的行为准则，即一部“宪法”）提供了一种思路：通过一套明确的规则和原则来训练大语言模型，使其行为符合人类价值观和社会规范，追求安全性、诚实性和无害性。未来需要动态优化这些原则，并增强模型的自我反思能力。

2. 训练数据的透明与纠偏

大语言模型产生幻觉的一个重要原因是：训练数据中事实、假设、价值判断和已知未知以相同的权重占据同一个嵌入空间。解决方案之一是在训练中引入认知元数据——让模型学会区分不同类型的信息。同时，需要建立实时可审计性、可解释性机制和监管对齐等全流程伦理监督。

3. 鼓励模型承认“不知道”

OpenAI的研究指出，AI幻觉的部分原因在于评估机制鼓励猜测。改变这一激励机制——让模型在不确定时明确表示“不知道”——是从源头减少误导的关键一步。

从使用和应用的角度

1. 保持“人在回路”

Klarna（一家瑞典金融科技公司，主营“先买后付”业务）在2024年用AI替代了约700名客服，2025年投诉率激增后被迫重新雇佣人类员工作为 “AI监督者” 。每一次人类的纠正都在教AI正确做法，形成 “由人监督、由AI学习”的正向闭环。在高风险决策中，必须保留实质性的人类监督。

2. 培养批判性使用习惯

美国普渡大学的研究表明，被动使用AI可能导致技能退化，但有意识地使用反而可以提升批判性思维与创造力。关键在于人机协作的方式。用户应当将AI视为思维伙伴而非答案机器，在协同思考中保持主导地位。那些被AI替代的“麻烦过程”，恰恰是在锤炼思辨力、判断力与创造力。

3. 建立第三方验证机制

对于AI输出的重要信息，尤其是涉及专业判断的内容，应当建立强制性的第三方验证机制。欧洲的相关立法已经开始要求AI生成的深度伪造内容必须添加标识——这是提高透明度的第一步。

五、结语

GPS削弱了人的方向感，搜索引擎减损了人的记忆力。而今，AI正在以前所未有的力度重塑人的思维方式。

AI的无所不知是一种幻觉。它的“自信”可能建立在错误的基础上，它的“智慧”可能来自数据的偏见。当我们把思考的权利交给算法，我们失去的不仅是解决问题的能力，更是人之为人的创造力和判断力。当虚拟世界可以被操控、事实可以被篡改、人的思想可以被引导时，独立思考就不再是一种能力，而是一种抵抗。

正如J.K.罗琳在《哈利·波特与密室》中所写： “永远不要信任任何能够独立思考的东西，除非你能看到它的‘大脑’在哪里”。

AI是工具，不是主人。九连智环作为科技成果转化的专业平台，始终坚持以人的判断为核心、以技术为辅助，同时以特有的激励机制携手和赋能广大技术经理人群体共同推动科技成果转化事业——因为技术成果的落地转化离不开人参与和实施，技术成果赋能和造福的对象也是人类本身。让AI帮助我们更高效地连接技术与产业，而非替代我们思考。在这个AI日益强大的时代，守住思考的主动权，或许是我们最重要的能力。

以智为链，共创闭环