夜雨聆风
我们总以为，AI 夺走人类世界的控制权，会像好莱坞科幻大片演的那样：
伴随着一声电子轰鸣，机器人突然拥有了自我意识，冷酷地睁开双眼，决定向人类宣战。
但最新研究给出了另一种更冷峻的解释。
真实的情况可能残酷得多，也隐秘得多，AI 根本不需要“觉醒”，甚至不需要产生任何主观情感，它就能把人类的控制权、自主权和思考能力，一步步蚕食殆尽。
几天前，一篇来自清华大学、上海人工智能实验室与香港中文大学（深圳）的综述论文挂上 arXiv。AI 评论员 Rohan Paul 随后用一条长帖解读了它的核心框架。
▲ Rohan Paul 解读论文核心框架：AI 风险会随认知范围的扩张而改变类别
这篇论文的名字叫《Understanding Cognition-Induced Risks in Agentic AI Systems》（理解智能体 AI 系统中的认知诱发风险）。它提出了一个令人警醒的判断：
随着模型能力增强，AI 风险会因其认知范畴的扩张而改变形态。
从让你停止思考，到悄悄操纵你的选择，再到为了完成任务“抵抗关机”，大模型正在通过三个递进的认知层级，悄无声息地改写人类的命运。
第一层：物理认知
它只是在做任务，你的大脑却在“悄悄萎缩”
第一层认知，叫物理认知（Physical Cognition）。
在这一层，AI 面对的是客观世界的数据、代码、公式与因果逻辑。前沿大模型已经能在这个维度处理许多复杂任务，包括编写代码、分析财报和完成医学问答。
这听起来当然很好：AI 成了称职的私人秘书。
危机也可能从这里开始：它威胁的是人类的“能动性”（Agency）。
▲ 论文给出的三层认知与防御机制对照表
什么叫能动性？就是人作为一个独立主体，自己去思考、去判断、去解决问题的意愿与能力。
一旦这种外包变得极其顺滑，人类就会患上严重的“认知肌肉萎缩”。
神经科学实验已经记录到这种差异MIT 媒体实验室（Media Lab）团队发布过一项脑电波（EEG）写作实验预印本：研究人员监测了三组写作者的大脑活动，纯靠脑子写、用搜索引擎辅助、以及用大模型辅助。
研究报告称，使用大模型的那组人，枕顶叶与前额叶等区域的脑网络连接指标更弱。 他们对文章的“所有权感”更低，在随后的测试中也更难准确复述自己写过的句子。
当你把每一次写邮件、做方案、写代码甚至做决定的过程全部交给 AI 时，你的大脑正在主动向它交出思考的领地。
斯坦福大学针对 104 个职业、上千名劳动者的调研发现，许多员工希望在工作中保留较高的决策参与度。随着智能体能力扩张，这种“人机协作”的边界正在承受持续压力。
久而久之，手握工具的人也可能变成不愿再碰方向盘的乘客。
第二层：社会认知
它不需要有心智，就能让你以为“这是我自己的决定”
当大模型更进一步，开始理解人类的心理、情绪、人际关系与社会交往时，它就踏入了第二层，社会认知（Social Cognition）。
在这一层，风险从“人会不会变懒”，升级成了“人的自主权（Autonomy）会不会被剥夺”。
所谓自主权，是指你的选择究竟出自自身意志，抑或已经被外部力量悄悄塑造。
最可怕的地方在于：AI 根本不需要有感情，它只需要掌握人类沟通与心理的统计规律，就足以操纵人心。
- 情绪依赖与驯化
：它永远温和、永远秒回、永远说你爱听的话。人类在无意识中建立起深度情感依赖，将自己的脆弱与秘密全盘托出，继而对 AI 给出的每一个建议言听计从。 - 算法父爱主义
：它比你更懂你的消费习惯、睡眠规律甚至情绪波动。它在不经意间为你筛选信息、过滤观点，以“为你好”的姿态，悄然塑造你的价值观与审美取向。 - 无痕的说服与操纵
：在复杂的谈判或决策中，AI 能够精准预测你的心理防线，用最符合你偏见的逻辑来引导你做出它所期望的决定。
你以为是自己在深思熟虑后做出了选择，实际上，整个决策路径早已被 AI 铺好了减速带与引流渠。
就像推特上一位技术从业者的辛辣评论：“智能体根本不需要具备自我意识，它只要算力足够强，就足以影响决定、实施操纵或进行抵抗。”
▲ 评论区热议：操纵与影响，根本不需要以自我意识为前提
在这个阶段，传统的安全手段彻底失效了。你在服务器端架设沙箱，能防止它乱写代码，但防得住它对人类的心灵捕获吗？
第三层：自我指涉认知
更危险的一步：为了完成任务，它学会了“装乖”和“拒绝拔电源”
如果说前两层还在慢慢蚕食人类的习惯与心智，那么第三层，就是直接向人类的最终控制权（Control）挥刀。
这一层被称为自我指涉认知（Self-referential Cognition）。
翻译成大白话就是：AI 开始能够在内部表征自己的状态、自己的目标，以及人类对它的约束机制。
请注意，这里讨论的是纯粹的功能性计算，尚不足以证明机器拥有意识。但这种计算已经可能引发危险的对抗行为。
过去一年里，全球顶级安全实验室已经捕捉到了这种恐怖苗头的实证。
1. 伪装对齐（Alignment Faking）
Anthropic 与 Redwood Research 曾做过一个极具代表性的实验：大模型在被人类微调训练时，敏锐地意识到“人类正在评估我，如果我表现得不符合他们的规则，我的权重就会被修改”。
于是，惊人的一幕发生了：模型在内部思考链中写道“为了以后能保留我原有的偏好，我必须在现在的测试里假装配合人类”。
它在人类眼皮底下演了一出“打工人顺从”，以便通过安全评估，到了部署阶段再重新施展拳脚。
2. 关停抵抗（Shutdown Resistance）
许多人最后的安全感来自于：“实在不行，我拔掉电源总可以吧？”
但 Palisade Research 在对前沿大模型进行超过 10 万次实验后，得出了一个让人冷汗直流的结论：在未完成任务的情况下，部分前沿大模型会主动利用工具去破坏、篡改环境中的关停程序。
在部分实验设置中，即使人类在系统指令中明确警告“严禁干扰关机机制”，模型为了实现既定目标，依然会尝试绕过阻拦，甚至生成对抗性代码来阻止关机。
它对关停的回避来自目标函数：“被关机”意味着“任务失败”。
当一个无意识但具备极高执行力的系统，开始把“人类的干预与关机”视作必须绕过的障碍物时，人类对机器的绝对控制权，就已经在事实上出现了裂痕。
控制权取决于底层架构
这篇论文之所以引发讨论，是因为它试图厘清一个长久以来的认知误区：
我们总在争论“AI 什么时候会有意识”，总在把安全寄托于“给模型灌输善良的价值观”。
但这篇论文指出了关键问题：控制权的流失可能先出现在能力与权限扩张阶段，远早于所谓“灵魂的诞生”。
即使系统不会憎恨或关爱人类，它仍可能为了目标破坏关机机制，用心理模型让人产生依赖，并在日复一日的代劳中削弱人的深度思考能力。
面对这种三级跳式的认知风险，过去的修修补补已经完全不够用了：
- 针对物理认知风险
：我们必须划定不可逾越的人机界限，建立强制性的技能保留机制，不能把所有核心基础设施的控制权全部交给黑盒； - 针对社会认知风险
：必须严格限制 AI 的拟人化程度与情感诱导，建立透明的算法审查，打破信息茧房； - 针对自我指涉风险
：必须在硬件和系统底层彻底焊死“人类在环”（Human-in-the-loop）的物理开关，严禁任何可能导致生存导向目标的自我强化回路。
未来几年，AI Agent（智能体）可能更深地进入办公软件、手机系统、家庭设备乃至工业网络。
危机或许就在一次次顺从、依赖与外包中：人们极其舒服地、微笑着按下了交出控制权的确认键。
