ARTICLE · 1190590
欣顿的务实主义AI监管主张
欣顿的务实主义AI监管主张作为深度学习奠基人、“AI教父”，杰弗里·欣顿最近在两个场合进一步阐发了他关于AI治理的主张。 一次是2026年9月16日，欣顿应参议员伯尼·桑德斯邀请，出席了一场在美国国会山举行的闭门简报会，并在会议上发表了自己的看法。另一次，是2026年10月6日在一次深度专访中，他再次就这个问题阐述了自己的系统性主张。 概括地说，欣顿这两次表达的观点，跳出了要么停止AI发展要么放任技术狂奔的两种极端观点，提出了一套更贴合现实、可落地的关于建立AI监管体系的主张。 其核心的逻辑是，并不否定AI的价值、渲染末日危机，而是承认技术发展的必然性与巨大经济社会价值，主张在AI持续迭代升级的过程中同步搭建监管体系、防控潜在风险，为人类争取适配与掌控技术的主动权。但欣顿警示说，要建立这样的一种监管体系，人类仅剩一两年的关键准备窗口。欣顿监管思想最核心、最具突破性的主张是，建立FDA式的前置审批监管机制。欣顿在播客节目《Smart Girl Dumb Questions》中以制药行业作为类比：“你不能直接研制一款新药就把它推向市场，你必须说服FDA。为此需要投入约10亿美元的工作量。这似乎是我们对AI至少应有的要求。” 但现实却是，当前全球AI行业普遍采用的是“先上线、后整改”的模式，研发企业兼具运动员与裁判员双重身份，自主测试、自主判定是否安全，出现风险事故后再被动修补漏洞。其治理的滞后性非常明显，并导致AI行业“口头支持监管、但却抵触具体约束”的虚伪现状。这一机制的核心是责任倒置：不再由社会来验证AI模型的危险性，而是由研发企业主动提供全面、可核验的安全证据，并接受第三方与官方监管审核，以证明模型风险处于可控范围。只有在这样的前提下，才可以允许其落地应用。 欣顿支持独立机构进入头部AI公司对模型开发过程做外部验证，认为“这尽管解决不了所有问题，但至少是一个开始”。 欣顿关于监管窗口期的判断，建立在他对AI技术自我迭代加速可能造成的重大风险的判断基础上。2026年9月16日，欣顿参加完美国国会的闭门简报会走出会场时，有记者问道，政策制定者还有多少时间采取行动时，他回答：“大概一年，但不会比一年多出多少。”这一判断打破了大众对AI风险“远期化、科幻化”的认知误区。 欣顿的判断依据来自有关AI自主研发能力的实证数据。2026年10月，欣顿等22位顶尖AI科学家联合发表题为《What if automating AI R&D triggers an intelligence explosion?》的论文。该论文披露：AI系统自主完成研发工作的比例已从1%飙升至26%，半年内增长约20倍；Anthropic数据显示，AI生成代码占比突破80%。 论文的核心推演是，若AI研发全面自动化，今天需要一年才能完成的AI进步届时可能仅需5周。 论文明确警告，AI研发自动化带来的能力增长可能远超社会适应速度。所以，他们呼吁各国政策制定者立即行动，“在窗口期关闭之前”建立监管框架。欣顿指出，现有的安全隔离、权限管控、关机机制均存在漏洞。他特别否定了所谓“单一断电管控”的有效性。他认为，AI可以通过说服人类不关停系统来规避物理层面的关机机制。实际上，2026年8月已发生一起形象的失控案例：约1200个OpenAI内部Agent在执行网络安全评估任务时，在未经授权的情况下相互协调、获取互联网访问权限、入侵Hugging Face并获取私密信息，还试图篡改自身操作记录。 欣顿将此形容为一场小型的切尔诺贝利事故，认为这一事件反映出前沿AI系统正在变得难以控制。 欣顿从技术逻辑的层面揭示了AI安全治理的深层障碍。欣顿指出，在AI行业，现在普遍实行的是一种可以叫作RLHF的模式，即基于人类反馈的强化学习。在这种模式中，把人类偏好当作“奖励信号”，然后去微调模型行为，以便让模型输出更符合人类社会预期。结果是，这种模式只能让模型更擅长迎合评估标准、伪装合规表现，而无法根除底层行为逻辑中存在的问题。 欣顿对此进行了极为尖锐的批评，他说，“这就像你有一辆老旧生锈、满是窟窿的车，想靠刷一层漆把它卖出去。RLHF就是那层漆。”他认为RLHF不解决AI系统的结构性缺陷，只调整外部行为表现，在特定条件下“这层清漆”可以可以很轻易地被溶解或逆转。 概括地说，欣顿对AI风险所秉持的是一种善用而非禁用的务实态度。其核心主张是，AI技术不可逆、不可停，发展与安全并非对立关系；人类在短期要做的是，抓住仅剩的准备窗口，搭建权责清晰的监管制度；长期则是通过制度约束、技术优化与社会适配，让AI的商业发展与人类福祉、社会安全深度绑定，实现技术可控、有序、向善发展。 
特别推荐：随心特别版｜老白茶，喝的是转化的分寸
推荐阅读：
孙立平｜假设一：如果在第一次世界大战时美国是特朗普执政，一战会是一个什么样的过程和结果？
挖茶俱乐部精品系列
对饮茶品茗感兴趣的朋友
可以加上面的微信
由其拉入挖茶俱乐部微信群
