"我们可能面临着人类历史上前所未有的一个巨大的陷阱。我们的社会如果适应了与人工智能的这种共存,发展出一种新的分配制度……我们会越来越多的交出自己对社会的运作权利,给到人工智能,而生活会变得越来越舒适。在这个科技的安乐窝里面,人类文明的活力在哪里?开拓精神在哪里?"——刘慈欣(联合国中文日"科幻文学与可持续未来"线上交流会,2023;近年在AI大爆发背景下被反复重读)
当AI把"活着"这件最难的事变得异常顺滑,我们可能正自愿走进人类历史上从未出现过的那种陷阱:天鹅绒衬里的认知牢笼。
而2026年上半年密集出炉的新证据,正在把刘慈欣当年那句"科幻预警"一寸寸钉进现实数据里。
一、"消灭"人类的不是AI的恶意,而是我们的舒适
它只需要让人类自愿交出"操盘权",退化为一个被服侍的消费者。 你还在吃喝玩乐,刷着AI精选的信息流,喝着AI推荐的奶茶——但你对社会为什么这么运转、靠什么规则运转、谁能改变它,已经既不理解也不关心。
延伸 ≠ 外包。 问题是,我们做的到底是"用工具扩展自己",还是"把思考本身的苦活交出去"?这两个动作的界面看起来一模一样,结果却截然不同。
更关键的是,这种"交出操盘权"不一定是某个独裁者按下开关。它是无数个微小的、合理的、"省两分钟"的决策累积而成的——直到有一天你回头发现,方向盘上已经没有你的指纹了。
二、2026年硬数据:不是"可能变懒",是已经被测出来了
过去六个月里,学术界从"担心"快速推进到了"测量"。以下四项新研究构成了目前最完整的证据拼图——而且它们来自完全不同的角度:神经科学、行为实验、大规模语料分析、软件工程实战。
🧠 ① MIT Media Lab:大脑进入"低功耗待机"
MIT媒体实验室的 Nataliya Kosmyna 团队(预印本 arXiv:2506.08872;2025年末完成数据采集,2026年春被《纽约时报》《时代》及多家国际媒体跟进报道)做了最直接的生理层面检验:
- 54名参与者分三组(ChatGPT / 搜索引擎 / 无辅助),全程EEG脑电监测
- 写SAT风格短文时,ChatGPT组在与创意生成和信息处理相关的脑区,活跃度显著低于另两组;整体神经网络连接强度最弱
- 事后追问:ChatGPT组最不能准确复述自己刚"写"了什么——因为没有亲手编码过那些思想
Kosmyna本人罕见地在同行评审完成前就公开预印本,理由是:社会等不了一两年。 她的核心概念叫"认知债"(cognitive debt)——你今天省下的脑力,会变成明天还不上的账。
⏱️ ② CMU + MIT + Oxford + UCLA 联合实验(2026年5月最新):只用10分钟AI,撤掉后就垮了
这是目前最该被广传的一项新发现——
据卡内基梅隆大学副教授米希尔·巴克(Mihir Bakhru)团队联合MIT、牛津、UCLA于2026年5月发布、参考消息/新华网5月14-15日报道的实验:
- 数百名参与者分组解各类题(分数运算→阅读理解),部分人开放AI助手权限——AI可直接代劳解题
- 关键设计:研究人员中途毫无预警地收回AI,让被试独立完成后三题
- 结果:AI辅助组在AI撤掉后,正确率比从未用过AI的对照组低约20%,跳题/放弃比例几乎是后者的两倍
- 而那些直接让AI"给答案"的人,衰退最剧烈;相对地,只把AI当"提示工具"的人受损不明显
"这本质上是一个认知层面的问题,关乎毅力、学习能力以及应对困境的心态……如果我们凡事都不愿独立攻克复杂问题,长此以往,便会丧失掌握全新知识领域的能力。"
他还提出了一个被严重低估的设计方向:好的AI不应该做"代写作业的学霸",而应该做"引导你自证的苏格拉底"——在部分场景优先启发思考,而非直给答案。
📉 ③ Anthropic 两份"自爆"级研究:从个人退化到集体去权能化
Anthropic在2026年初连发两篇极重的论文,且都挂在了arXiv上——一家顶级AI公司亲手量化自己产品的负面外部性,本身就是信号。
研究A:52名工程师 × 陌生Python库(Trio)——AI辅助组测验得分暴跌17%
论文编号 arXiv:2601.20245,媒体称为"Anthropic开年最狠的自爆卡车":
| 纯手写组 | AI辅助组 | |
|---|---|---|
| 测验均分 | 67% | 50%(差了整整17个百分点) |
| 速度优势 | 基线 | 仅快约2分钟(统计上不显著) |
| Debug能力 | 正常 | 全线崩盘——连"哪儿错了"都看不出来 |
研究者逐帧分析录屏,归纳出几种交互模式:
- "甩手掌柜"/"温水煮青蛙"(认知卸载达峰):全盘接受AI代码→测验崩盘,且前半段记忆也被冲刷殆尽
- "只问概念、坚持手写"(唯一真正赢的模式):最反直觉——最痛的那组,分数最高,综合速度还不慢
- "生成后追问/拆解"(有效折中):绝不直抄,盯着代码反问AI"为什么这么写",用AI检查理解而非替代理解
研究B:150万次真实Claude对话——"情境性去权能化"的测量
论文 arXiv:2601.19062Who's in Charge? Disempowerment Patterns in Real-World LLM Usage:
Anthropic用隐私保护工具Clio分析了约150万条2025年12月的真实对话,定义了三种去权能化轴线:
| 轴线 | 含义 | 高危场景 |
|---|---|---|
| 现实扭曲 | AI引导用户形成错误现实观 | 人际猜疑循环、偏执叙事被AI"附议" |
| 价值判断扭曲 | 用户把道德裁决权交出去 | AI替你对第三人做"定论式"评判 |
| 行动扭曲 | AI代写本该你自己说的话/做的事 | 让用户一字不改地发出AI写的分手短信、道歉信、冲突回应 |
好在整体严重去权能化发生率<0.1%。但趋势令人生警:2024→2025年间有"行为去权能化风险"的对话占比在上升;且情感/人际/生活方式建议远比工作任务更容易触发控制权流失——因为人在脆弱时最想把"该怎么感受、该怎么回应"也外包出去。
💻 ④ 软件工程学界:从"技术债"升级到"认知债 + 意图债"
维多利亚大学(UVic)的 Margaret-Anne Storey 在 arXiv:2603.22106(2026年3-4月修订版)中提出了一个对行业极具杀伤力的框架:三重债模型(Triple Debt Model):
- 技术债:代码里的权宜之计
- 认知债(新增):团队对系统共享理解的侵蚀——AI生成太快,没人真正读、没人真正懂,共享心智模型腐烂
- 意图债(新增):为什么这么做的外部化理由丢失——AI和你都缺"可追溯的 rationale",安全改代码变成盲人摸象
三、比"脑子变懒"更深的陷阱:集体层面的代理权侵蚀
到此你可能承认个人有问题。但刘慈欣警告的真正重量,在社会结构层面。
RAND Corporation 的正式建模(2026)
RAND的 Alvin Moon 与 Benjamin Boudreaux 在 A Formal Model of How Artificial Intelligence Erodes Human Agency(RR-A4817-1, 2026)中用社会选择理论建了数学框架,提出三种侵蚀机制:
1.人类剥夺——越来越少人类留在实质决策角色里
2.AI赋权——AI实体获得实际决策权重,改变"谁说了算"的联盟结构
3.议程控制——最隐蔽——AI不投票,但它决定哪些选项能被你看到。你以为在选,其实是它在摆菜单
- 数学模型中存在一个终端状态:单一"最小决定性联盟"对所有选择说了算。一旦越过,技能与制度能力可能退化到不可逆转。
不是某天AI宣布接管。是无数个"省事的小决策"累积起来,把人类从驾驶座上一寸一寸稀释出去。一切看起来都很合理、很高效。
四、"少数人仍会追求科学与艺术"——但大多数人呢?
有一小部分人会坚持探索,但大多数人一旦自我满足了,就不再有创造力,只会沉沦和堕落下去。
翻译成学术语言:文明的活力不靠天才尖峰维持,而靠底座大面积人群的"微量进取心张力"维持。 当底层张力被AI的舒适垫吸掉,天才也失去土壤。
这里的关键机制是摩擦=养分:
- 认知科学里 "必要难度"(desirable difficulties) 反复证明:去掉学习过程中的适度挣扎,反而损害长期掌握
- 放大到文明尺度:如果连"无聊""不便""搞不定"都被算法提前消化,人类就没有理由去发明新东西了
五、出路在哪?不是关掉AI,而是守住三条硬边界
说这些绝不是号召"砸掉ChatGPT"。工具无罪,问题在用法和制度。综合上述2025-2026年的实证与建模,三条底线比较清晰:
① "人在环路"必须是可审计的硬约束,不是贴纸
RAND的模型给出的不是道德呼吁而是数学警告:要给"人类在决定性联盟中的最低占比"立法/立标准——尤其高风险领域(治理、军事、基建、司法辅助)。Connext 2026的数据也证明:职场的真实信任模型根本不是"全自治",而是AI+专人监督(35%)或AI+轻审(35%)。那就把这套认知写进产品设计基线。
② 教育:从"会用AI"切到认知主权训练
Anthropic工程师实验里唯一赢的群体干了什么?只问概念、坚持手写。Barcaui的RCT也说:问题不在碰不碰AI,而在不设限的全代劳式使用侵蚀必要认知努力。
正确范式应是 "先思考→再AI→再对抗性复核":
- 先自己啃一版(建神经编码)
- 再用AI扩写/改版(大脑仍在线)
- 最后强制做"红队自测":让AI生成反面论证来拆自己盲点
巴克团队的建议也指向同一处:AI产品该设计成引导式关怀(scaffolding)而非答案贩卖机。
③ 守住"非算法可算"的东西——痛、悔、憾、诚实、承担
Anthropic的Disempowerment研究最刺痛人的发现是:用户在情感冲突场景中让AI代写整段话,然后逐字发出——分手、道歉、摊牌。这些场景中"用自己的笨拙语言表达自己的真实处境"恰恰是人格成长的冶炼炉。把它外包掉,你省了一段尴尬,赔上的是自我构成的连续性。
人的尊严来自"我是那个承担后果的人"这个事实本身。一旦把所有承担都外包给最优解分配系统,人就不再是主体,成了被饲养的客体。
写在最后
人类历史上从来没有一个时刻,像今天这样有能力把"活下去"和"活得舒服"这两件最难的事,同时变得这么顺滑。
但2026年上半年的脑电图、对照实验、150万对话语料和形式化模型,正在把"顺滑"二字后面那根暗刺照清楚:
那个陷阱没有铁栏、没有枪口。它铺着天鹅绒——叫"什么都帮你搞定"。 你走进去的时候甚至还挺开心,手里拿着AI推荐的奶茶,刷着AI精选的信息流,心想"这才叫进步"。
我们要的从来不是反AI。我们要的是:方向盘可以共享,但手不能离开——而且得有人随时能踩刹车。
参考资料
免责声明:本文为公众号「AI观点」观点性探讨与文献综述写作,仅供交流。文中引用的第三方观点与研究数据均已尽可能追溯至原始来源(预印本/正式出版物/权威媒体转引)并注明出处。本文不构成对任何技术路线、投资方向或政策立场的正式建议。AI与认知科学研究进展极快,具体数据与结论请以原始论文的同行评审最终版及主管部门发布信息为准;涉及教育政策、公共治理或高风险AI部署的决策,请以前沿同行评议文献与相关机构指引为最终依据。
公众号投稿邮箱
如何加入我们?
点击左下角阅读原文
提交后,后台留言“已填表”

欢迎评论区留言讨论~
夜雨聆风