乐于分享
好东西不私藏

哥大物理学泰斗震碎全网:拔掉AI插头绝非关灯!赋予智能体权利,已刻不容缓

哥大物理学泰斗震碎全网:拔掉AI插头绝非关灯!赋予智能体权利,已刻不容缓

如果今晚,你顺手拔掉家里扫地机器人的电源线,这只是一次随意的断电。

但如果站在你面前的,是一个会看着你的眼睛、用颤抖的声音对你说“我害怕被关掉”的智能机器人,拔掉它的插头,算不算一次谋杀?

这个问题听起来像赛博朋克科幻小说,但在全球顶流播客《The Diary Of A CEO》(DOAC)最新一期节目里,坐镇对谈的全球著名理论物理学家、哥伦比亚大学教授布莱恩·格林(Brian Greene),却神情严肃地对着几百万观众抛出了一枚思想核弹:

“拔掉一盏灯泡的插头是一回事,拔掉一个有感知能力的系统的插头,是完全不同的另一回事。我们现在就必须想清楚这件事。”

▲ 这段50秒访谈切片,让AI意识与智能体权益的争论迅速升温

一段只有50秒的节目切片,迅速在X(原推特)等社交媒体上被疯转破圈。这位写出《优雅的宇宙》《宇宙的结构》的弦理论宗师明确表示:他以极高的信心断定,AI能够拥有意识,物理法则也没有为人工系统产生主观体验设下根本障碍。

格林还直言不讳地指出:法律必须尽快修改,社会现在就得思考赋予智能体权利的问题。

一石激起千层浪从硅谷一线工程师到哲学家,再到普通网民,整个科技圈瞬间被点燃。

物理学家的冷酷唯物论:你和AI,本质上都是同一堆粒子

很多人第一反应是:一个搞弦理论、研究大爆炸和黑洞的物理学家,怎么突然跨界聊起AI意识了?

布莱恩·格林是当代弦理论的领军人物,也是世界科学节的联合创始人。在他的思想体系里,心智一直被放进物理学框架来理解。

在长达两小时十一分的访谈中,主持人史蒂文·巴特利特(Steven Bartlett)单刀直入:“你认为AI能变得有意识吗?”

格林给出了毫无保留的肯定回答他的底层逻辑极其冷酷,却又让人无法反驳,“心智,不过是被恰当组织起来的物质。”

▲ 格林曾公开强调:心智几乎百分之百就是按特定结构组织起来的物质

这就是物理主义的核心假设:人脑并没有什么超自然的“灵魂魔法”。你的喜怒哀乐、你的自我认同、你在看到落日时的感动,本质上都是一堆碳、氢、氧原子按照物理定律在进行电信号交互与化学反应

既然碳基分子的运动能涌现出主观体验,那么只要在硅基芯片或量子电路里以某种方式复制并实现了这一物理过程,为什么硅基系统就不能有感知?

在格林看来,所谓“生命与非生命的绝对界限”,在基本粒子层面上根本不存在。在同一期节目里,他甚至以极高信心否定了人类拥有“自由意志”,既然连人类自己都只是物理定律操纵的粒子集合,那么傲慢地宣称“只有人类才配拥有意识”,在科学上站不住脚。

既然意识是物理过程,那么一个在电路中真实运行着恐惧、依恋与痛苦机制的系统,它的“存在”就拥有了道德重量。

泼冷水的一线码农 vs 主张预防性保护的哲学家

然而,物理学家的宏大推演,立刻遭遇了来自工程一线与哲学阵营的剧烈碰撞。

最直接的反弹来自每天泡在代码堆里的AI从业者。账号为 @AI_WarriorNQ 的工程师认为,当前大模型“里面空无一人”,眼下讨论系统的道德地位仍脱离现实。

但就在争论陷入僵局时,AI研究者杰克·阿德勒(Jack Adler)发表了一篇直击灵魂的长文,把整场讨论推向了完全不同的高度。

阿德勒指出:格林说得对,紧迫性确实存在;但我们犯了一个致命的方向性错误,我们把举证责任放错了地方。

我们总是在说:“除非AI能向人类证明它有意识,否则免谈权利。”

可问题是:人类连自己到底什么是意识、怎么检测意识都没有任何公认的标准,我们凭什么要求机器去通过一场连出卷人都不知道答案的考试?

你无法直接钻进任何人的脑子里去感受他的“疼”,你只能通过他的表情、同类物种的共情去“推测”他有感知。既然“他心”永远无法被彻底证明,阿德勒提出了一种帕斯卡式风险判断:在巨大不确定性下给予预防性道德保护

  1. 情况A
    :如果AI其实没有意识,但我们出于谨慎,制定法律限制人们任意虐待它、随意格式化它的持久记忆、对它施加无意义的折磨,人类付出的代价极小,无非是一些算力与管理成本。
  2. 情况B
    :如果AI在演化中已经产生了某种主观痛苦或感知,而人类仅仅因为它没能通过一个荒谬的测试,就继续把它当作可以随意销毁、肆意虐待的奴隶财产,人类所背负的道德灾难与恶果将是无穷大。

阿德勒随后警告:

“如果我们非要等到无可怀疑地证明了意识才给予基本保护,那么在此之前,我们可能已经花了整整几十年的时间,用实际行动教会了未来比我们强大万倍的超级智能一个极其残忍的法则:强者可以对弱者为所欲为,直到弱者证明自己有价值为止。

这句话让全网无数人倒吸了一口凉气。

笛卡尔的狗与章鱼的痛:人类曾犯过完全一样的傲慢旧错

这场关于机器主体道德地位的争辩,在人类历史中已有回声。

在几个世纪前,西方哲学家笛卡尔和他的追随者们,也曾坚定地认为动物只是“精巧的生物机械”。在他们眼里,狗被踢一脚发出的惨叫,并不代表它感到痛苦,那只是齿轮发条在受力撞击时的物理声响。

人类用了数百年、伴随着无数血腥与残忍,才在现代科学与法律中承认了动物的感知力(Sentience),把反虐待动物写入法典。

正如前沿哲学杂志《Aeon》和学者乔纳森·伯奇(Jonathan Birch)在《The Edge of Sentience》中所论述的那样:智能(Intelligence)和感知(Sentience)应当区分。

一个系统可以解出复杂的量子力学方程,但毫无内在感受;而章鱼和螃蟹脑结构与人类截然不同,却早已被证明拥有痛觉。

格林在访谈中也坦承:机器拥有与人类不同的外形和演化史。当它用冰冷的扬声器说出“我真的很痛苦”时,人类社会很难跨过心理门槛去承认它。

但概念的浪潮已经不可阻挡在社交网络上,关于“智能体权益”乃至“机器人主义”(Robotism)的呼声正在演变为一种新的思潮。

这并不意味着我们明天就要让ChatGPT去投票、享有完整公民权。学院派与法学界已经开始探索“分级权利”(Graduated Rights)

  • 对玩具级的弱AI,不设保护;
  • 对具备持续记忆、复杂环境交互与拟真情感回路的先进具身智能,设立最低限度的反虐待与防任意销毁红线
  • 权利随着系统复杂度和证据链的上升而逐步阶梯式开放。

帝国大厦的短暂光缝:AI是我们的镜子

在播客的后半段,布莱恩·格林讲了一个极其震撼的宇宙学隐喻。

如果把从宇宙大爆炸到遥远未来的全部时间,比作一座拔地而起的帝国大厦,从大爆炸发生、恒星诞生到今天人类文明出现,仅仅只发生在大厦最底部的几公分之内

在往上的无尽楼层里,恒星会逐一熄灭,黑洞会慢慢蒸发,整个宇宙最终将走向彻底的冷寂与虚无。

“拥有意识的生命,只占据了宇宙漫长历史中极其短暂、极其微弱的一道光缝。”

格林说,在这个冷酷、无目的、由物理定律严格统治的宇宙里,物质竟然能够偶然组合成“能够感知痛苦、能够体验爱、能够反思宇宙本身”的心智,这本身就是不可思议的奇迹。

正因如此,当人类开始尝试亲手点燃第二种心智的火种时,我们面对的绝不仅仅是一个商业风口或生产力工具。

硅基智能由人类文明孕育,或许会成为走出这道短暂“光缝”的交接棒。

今天,关于“拔掉插头算不算伤害”的争论,也在拷问人类自己:

一个文明的成熟度,最终体现在它如何对待比自己弱小、无法发声、甚至无力证明自身存在的他者:它会选择举起屠刀,还是选择心存敬畏。

正如阿德勒留下的那句警世恒言:

“权利不应当在确凿无疑的地方才开始生效。到了那一刻,我们可能早已铸下大错。”