AI真是“神”吗?先把能力、权限和责任分开

Naval 说，人类不能创造一个“神”，再把它拴起来。Elon Musk 回了一句：“我希望 AI 对我们友善。”这场争论真正暴露的，是人们正在用神学比喻处理一个治理问题。

这组 X 帖文的传播起点，是 Naval Ravikant 的一句话：“你不能创造上帝，再把它拴起来。”

Elon Musk 引用这句话，只补了一句：“I hope AI is nice to us.” 两句话放在一起，像一则极短的末日寓言。人类造出了可能超越自己的系统，现在只能祈祷它脾气好。

趋势页把这场讨论概括为“AI 是否像一种外来的力量”。Brian Roemmele 则反驳说，AI 是“人类思想的地图”，它速度更快、计算更强，却仍然来自数百万人的思想材料。他还认为，把 AI 描绘成必然毁灭人类的力量，是在抬高机器、贬低人类。

Harari 在被 Brian 转发的视频里说，农业革命、工业革命以及蒸汽机、原子弹等技术，都让人类获得了更多力量。人类决定怎样使用工具，工具本身不会决定下一步。

他的判断是，AI 可能成为第一种不只是等待人类操作的技术。它能够自行做决定，也能自行提出新的想法。若这种能力进入金融、招聘、军事、政府服务和科研流程，人类面对的将是一组会参与行动的系统。它们的能力超出传统工具。

这个比喻之所以有效，是因为它把三个抽象问题压缩成了一个画面：谁创造了谁？谁拥有最终决定权？当系统偏离预期时，谁能让它停下来？

一个模型能写出新颖的策略，不代表它已经被允许执行策略；一个系统能生成药物设计，不代表它可以直接进入实验室；一个代理能操作电脑，也不代表它应该拥有支付、部署或删除数据的权限。

“把 AI 拴起来”听起来像一项不可能的神学任务。工程上的控制措施很具体。它们包括限制工具调用范围、隔离敏感环境、设置审批节点、记录操作日志、安排人工复核和保留回滚路径。风险达到阈值时，系统还应自动停止。

这些措施不能保证系统永远安全，却能把“控制”从一句愿望拆成一组可检查的接口。AI 是否聪明，和它能接触什么数据、能调用什么工具、能把结果推到哪里，是两套不同的问题。

Brian Roemmele 的长帖把矛头对准“机器必然压倒人类”的叙事。他认为，AI 的能力来自人类留下的语言、知识和创造物。模型可以把这些材料重新组合，速度也远超个人，但这仍然不等于它拥有神秘来源。

他还提出，模型输出的危险倾向与训练材料和使用环境有关。如果把系统不断暴露给互联网中最恶劣的内容，再把它接入高权限工具，结果出现破坏性行为并不神秘。问题出在数据、目标、反馈和权限的组合。

这部分判断更接近工程语言，也更容易被验证。我们可以检查训练数据来源、评估测试集、工具权限、失败案例和监控记录。至于“AI 是否像神”，没有一个同样清楚的测试标准。

Harari 自己的长篇论述也没有停留在“神”这个比喻。他在《卫报》发表的《Nexus》节选里写道，人类获得巨大力量依赖大规模合作，网络中的信息质量会影响集体决策。AI 风险因此与组织、市场和国家之间的竞争有关。

这比“AI 会不会对我们友善”更难回答。一个系统即使没有恶意，也可能因为目标设置、激励机制或错误信息造成伤害。一个系统即使能力有限，也可能被人类部署到不适合自动化的高风险场景。

竞赛会进一步压缩安全余量。公司担心落后，国家担心失去优势，团队担心错过窗口，于是测试、审查和人工复核都可能被视为拖慢速度的环节。最后真正握住“皮带”的，可能没有任何一个人，而是一套共同把速度放在首位的制度。

Elon 的回复很适合传播，因为它把复杂风险变成了一句人话：希望 AI 对我们友善。Naval 的句子也很适合传播，因为“造神并驯服神”是一个古老而有力的故事。

但真实系统不靠善意运行。它们靠权限、约束、观测和责任链运行。我们不需要先判断 AI 有没有灵魂，才可以决定它能不能访问客户数据；也不需要先证明它像不像神，才可以要求高风险决策必须留下可追溯记录。

这场 X 争论最有价值的地方，恰恰在于它同时暴露了两种偏差：风险叙事容易把 AI 神秘化，乐观叙事又容易把 AI 工程化得过于简单。前者让人只剩恐惧，后者让人忘记权限。

来源：Naval Ravikant、Elon Musk、Brian Roemmele 的 X 帖子；Brian 转发的 Yuval Noah Harari 视频及转写；Harari 在《卫报》发表的《Nexus》节选。帖文中的“神”“外来智能”和“人类思想地图”均作为作者比喻或观点处理，不当作已证实的技术结论。