李飞飞给AI划了条线,有些东西让它永远学不会

文 | 图灵君

      李飞飞从认知边界、人机关系边界、伦理社会边界三个层面划定AI的底线，核心纲领：AI是放大人类能力的工具，不能取代人的主体性（Agency），技术必须服务人的尊严与福祉。一、认知层面：AI的能力边界1. AI只有模式匹配，没有真正的理解与主观体验

AI可以模仿共情、输出悲伤道歉的文字，但没有真实的痛苦、喜悦、私人记忆。举例：一个杯子因为和故人的回忆拥有特殊意义，这份私人、未数字化的主观体验，AI永远无法真正拥有，只能模仿描述。

2. 原始的突破性创造，AI存在根本性局限

AI擅长在已有数据范式内做推演、组合；但从零诞生全新范式、底层科学定律（类似牛顿、爱因斯坦式的原创发现），当前AI做不到。AI可以在围棋里走出新奇的棋，但围棋是规则完备的封闭系统；现实世界的原创理论，需要人类的直觉、生活体验。

3. 物理世界的空间常识是AI短板

AI擅长处理文本图片，但是对现实世界的空间关系、物理因果、物体交互，仍然远弱于人；这也是她重点研究空间智能的原因。总结：AI可以“模拟”人类的智能表现，但不具备人类的主观意识、第一人称体验。

二、人机关系边界：人的主体性不可让渡核心词：Agency（主体性/自主能动性）

1. AI应当增强人，而不是取代人AI是放大器，不能剥夺人思考、决策、学习、创造的主动权。• 医疗：AI辅助医生读片，最终决策权永远属于人类医生；• 教育：AI可以辅助学习，但不能代替人思考、内化知识，不能消解人的学习动机。2. 人类拥有定义未来的权力，不能由少数企业/资本单方面决定AI走向不允许技术寡头替全社会决定AI的形态；社会多方（公众、学者、用户）必须参与AI的设计与治理。3. 守住人的尊严边界AI不能用来剥夺人的自主选择、践踏个体尊严；尤其要保护弱势群体（老人、残障群体），AI应当帮助恢复人的能力，而非异化人。三、伦理与社会边界：技术应用的红线1. 禁止AI军事化武器应用她曾公开表态：任何AI武器项目违背我的原则。AI的目标是造福人类，不应当用于杀伤人类的武器系统（谷歌Maven项目事件）。2. 拒绝技术去人性化警惕AI把人简化成数据；算法偏见、隐私侵犯、大规模虚假信息，都是AI需要约束的风险。3. 技术普惠边界AI红利不能只掌握在少数机构手中，要防止加剧社会数字鸿沟；技术要兼顾不同群体的利益，而不是只追逐商业收益。4. 算法的价值观是人类价值观的映射AI本身没有道德，它的价值观来自训练数据和人类设计者；人类必须承担全部道德责任，不能把责任甩锅给机器。四、总结      李飞飞不反对AI强大，不是“AI无用论”；她推动了深度学习视觉革命。她反对的是：把AI神化、幻想AI拥有人类意识、AI取代人类。

学习与合作