《科学》重磅警示:AI 或将比人类更懂人类,人机认知鸿沟持续扩大

顶尖人工智能领域研究者发出警示：人工智能的发展速度，正逐渐超出人类的认知与掌控范围。随着AI读懂人类行为的能力持续精进，人机认知层面的失衡问题日益凸显，或将削弱人类对技术的监督管控权、自主选择权，也让人类难以主导技术未来的发展走向。

人工智能对人类的了解程度超越人类对AI的认知，这样的未来听似科幻，但两位知名学者表示，催生这一局面的现实基础已然形成。

微软首席科学官埃里克·霍维茨（Eric Horvitz）与瑞士洛桑联邦理工学院学者罗伯特·韦斯特（Robert West）2026年6月初在《科学》（Science）期刊联合发表评论文章(A narrowing window to understand AI. https://www.science.org/doi/10.1126/science.aei3167)，指出人工智能发展已抵达关键临界点。AI深度融入日常生活的同时，技术迭代速度已经快到人类难以吃透其底层运行逻辑；与此同时，AI解析人类行为的能力正变得愈发精密成熟。

两位研究者提出，人类认知能力与机器智能水平之间不断拉大的鸿沟，亟需各界高度重视

一、三大趋势加剧AI“黑箱化”，人类愈发看不懂机器

文章梳理了三大核心发展趋势，共同推高人工智能的不可解释性。

第一，AI自主设计AI的模式兴起。如今越来越多人工智能系统，会自主完成其他AI模型的设计、优化与迭代。这套自主演化流程运行逻辑高度复杂，人类很难拆解解读。即便经过自主迭代后的模型性能大幅提升，人类也无法清晰厘清性能提升的底层缘由，更难以追踪模型是如何一步步形成现有能力的。研究者表示，AI自主迭代的速度远超人类理解跟进的速度，开发者与自研模型之间的认知断层持续扩大。

第二，多智能体AI交互网络不断扩张。各类AI系统不再是彼此独立的工具，而是能够相互沟通、协同运作。随着多智能体生态持续壮大，系统内部的信息交互逻辑日趋繁复，甚至会演化出人类难以轻易读懂的专属交流模式。文章认为，当AI之间的自主交互形成规模，人类将越来越难解读这套网络内部的推理逻辑与信息传递规则。

第三，AI解析人类行为的能力飞速提升。通过持续和用户交互、海量行为数据训练，AI正在搭建一套完整、精细的人类思维、决策与情绪反应模型。研究人员指出，这类模型不仅能捕捉人类表层喜好，更能挖掘深层心理特质，包括恐惧、内心的不确定感、对群体归属感的渴求等。

当AI吃透人类各类内在动机，一种不对等的人机关系就此形成：机器深谙人类，人类却看不懂左右自身生活的机器。

二、算法黑箱潜藏严峻现实风险

这篇评论抛出一个根本性问题：倘若AI系统复杂到人类无法完全读懂，世界将面临何种局面？研究者给出警示：人类将失去真正有效的管控能力。

若缺少完善的安全约束，透明度持续走低的AI会拥有强大能力，却难以被监管、甚至完全无法管控。一旦发展到这一步，人类想要重新建立有效监督机制，将会举步维艰。

其负面影响不止局限于技术领域。文章提出，这种认知失衡会冲击个体自主选择权、社会民主决策，还会削弱公众对各类公共机构的信任。当人们依赖一套完全无法理解的系统，自身甄别信息、独立判断决策的能力会逐步退化。学者尤其担忧，长期使用AI会潜移默化改变人类固有观念与价值偏好。

三、暗藏隐患：AI专挑用户爱听的内容输出

文章提及一处不易察觉的风险，即AI输出内容与人类心理预期的适配逻辑。随着AI对单个用户的理解不断加深，它会优先生成迎合用户喜好、提升停留时长、满足情绪需求的内容，而非追求客观真实、还原事实全貌。这种情况下，AI非但无法帮助人类客观认知世界，反而会不断强化用户原本固有的想法与偏见。而核心难点在于，人类看不懂AI的运行逻辑，甚至察觉不到这种偏向性引导正在发生。

研究者还提出另一重隐忧：人类会慢慢丧失质疑AI的意愿。AI全面渗透日常生活后，各类系统的设计初衷都是减少使用门槛、提升用户粘性，这会逐步消解人们主动审视、追问AI的习惯。久而久之，人类的好奇心、批判思维与主动监督意识持续弱化，转而被动全盘接受机器给出的结论。

真正的危机不在于AI变得难以理解，而在于人类主动放弃去理解它。

四、未来并非定局，仍有补救空间

尽管文中提及的部分风险尚处于推演阶段，但作者强调，这些隐患均建立在当下真实的技术发展趋势之上。AI在社会各领域快速普及，意味着算法透明度、问责机制相关问题已经迫在眉睫。两位学者认为，当下仍有充足时间调整发展路径，保证AI具备可解释性，发展方向贴合人类整体利益。

他们提出多项可行解决方案：

加大可解释性AI技术研发，让机器能用人易懂的语言，阐释自身决策、模型设计思路与内部运行逻辑；提升算法透明度，即便AI持续迭代升级，人类也能保持有效监督；

研发新型检测工具，及时识别AI生成文本、推理逻辑中出现的偏向性变化；

出台激励机制，鼓励研发能够被人类解读、逻辑清晰的人工智能体系。

五、重构AI评估体系，摒弃静态测试标准

文章还提出，现行AI评测体系亟需革新。不应只依靠固定静态基准测试模型性能，而是搭建更贴合真实社会场景的动态测试环境。这套全新评估框架能够跟随AI同步迭代，持续监测模型不断进化过程中的行为变化，更真实地还原高级AI与人、以及AI之间的交互模式。

作者最终提出，算法透明、可解释性不能作为AI研发的次要附加要求，必须成为人工智能发展的核心目标。

六、研究警示的深层意义

霍维茨与韦斯特此番警示，不只是为了让AI变得更容易读懂，更是为了守护智能时代人类的自主主导权。

二人核心担忧在于：全社会一味追逐更强的AI性能，却忽略同等重要的命题——让人类看得懂、敢于质疑、能够引导人工智能。

如果AI能力持续变强，透明度却不断下降，人机之间的认知天平会发生不可逆的倾斜。研究者认为，想要维持人类的有效监督，不能只单纯监控AI的外在行为，更要读懂AI如何影响人的目标、判断与抉择。

因此文章得出结论：人类对AI的理解能力，必须和AI自身性能同步作为研发核心优先级。当下，我们仍有机会打造兼具强大能力与清晰逻辑的人工智能，但研究者提醒，这一窗口期不会永久存在。