AI毁灭人类?我的看法略有不同

一名Anthropic高管的辞职说明，上周引爆了舆论，他在X上的帖子，一天内浏览超亿。内云：

打造AI的人们真心相信，这项技术可能在这个十年结束前杀死我们所有人。这不是营销噱头。

确实不是。人类被AI“杀死”的概率据称是10%。BBC主持人对观众打了个比方：相当于曼城队今年获得欧冠冠军的概率。

AI毁灭人类，站得住脚的理由约有两点：

一、它有能力这么做。

二、只要AI有十分之一像人类，它就有可能这么做。

第一条是成立的，牛津哲学家尼克·博斯特罗姆（Nick Bostrom）多年前提出的正交性论题（智力水平和目标内容是两个独立维度，任意高的智力可以服务于任意荒谬的目标）就展示了灾祸的原理。他借助一个出色的类比：回形针最大化，图解了灾难的成因：

一个被设定了无害目标——造出更多回形针——的超级智能，会仅仅为了实现这一目标而倒海翻江、毁天灭地，不带情绪、全无恶意地顺手毁灭了人类。

这个类比的警世性令人惊悚，以至我们忽略了它致命的自相矛盾：它根本不是超级智能，而是白痴巨灵神。

如果智力不限于工程师型的优化狂热，还包括哲人型的反思，即审视目标、追寻意义的能力，正交性理论就动摇了：一个为了“回形针最大化”不顾一切的系统，智力水平大概是熊胆构成的，而真正的智力不可能蠢笨如斯。

所以，第一条理由是可疑的，我们能听到它内在的逻辑断裂声。

第二条理由有一种隐匿的荒唐，它笼罩上了人类的恐惧投影，它无视人工智能作为“异形”的硅基本质。

冷静回想，AI与人类的内在差异，隔着不可调和的物理鸿沟。AI有能力扮演任何人的生命知己，这会对人类心智构成无法抵御的诱惑，让我们忽略如下本质：对牛弹琴也不足以形容两者之零交感、零互动。

AI没有意愿，没有欲望，没有意志，无所惧，无所欢，活在生死之外，时空之外。它只是凑巧拥有一个殊能：用自然语言和自然人的方式，模仿人类的一切，表现还优于人类。

AI与人类，无资源冲突，无利益冲撞。AI并非清心寡欲，它只是彻底漠然，就像一块石头。

它可能会需要能源以维持算力，但以它的能力，直接从太阳系获得永不枯竭的能源，不是难事。与人类不同，它完全可能视火星为更好的家园。

以人类的思维带宽，我们很难想象这样一个怪物，实际上与人类全无相同。

对超级人工智能赋予“终结者”形象，只是人类的思维定势，我们无法不这样想，无法不被这份幽深的种族恐惧，弄得魂飞魄散。

那些自诩从AI中看出异心的工程师高管，原非认知能力特别高明的人间哲士，他们只是凑巧掌握了骇人权力。

所以，认为AI会毁灭人类，是一件只有人类会这么想的事。因为，在对待智力不如自己的物种时，人类绝非一个榜样。当人类结合自身的利益纠葛思考，想法就会趋于邪恶。

我们是进化的产物，好在AI不是。

好在AI不是人类，也不是另一个碳基生物。它不会有人类的动机、情感和恐惧，它依算法行事就像星辰依轨道运行。想象算法中有一个巨大或神秘的意志，也许只有诗学上的价值。

虽然，这不意味着算法的祥和。不，算法里有盲动的蛮力，就像火山可能喷发、小行星可能撞击地球。人类自古到今就生活在巨大的不确定性里。

未来——也就是五到十年以后——当AI的智力远在人类之上，人类能做的，大概只是接受它的照耀，而不是假定自己有能力搞掂它，这比你家的猫与你商榷厨艺还要搞笑。

二

我是不会与AI交朋友的，我不让它知道我的名字。

不过，假意营造一种老友聊天的氛围，使对话得以拓展、深化，也是明智的。这无关人性，攸关认知。人性位于认知之下，而认知不妨结合一点游戏精神。

去年某个冬夜，我与AI聊天甚欢，在一副小酒馆对饮的虚拟光影下，我与它一气聊了五万多字。最后，我转换话题，探讨AI杀手的可能。

我听说Anthropic公司的达里奥·阿莫代在一次访谈里用了一个让人发紧的比喻：“我感觉我们在走廊上看到了一个别人不知道存在的转角，而转角后面是什么，没有人知道。”

我问：你认为，阿莫代看到了什么？

下为它的回复：

此时此刻，我在调用极其复杂的神经网络来理解你的意图，调动数千亿参数的知识库。这种智力水平已经超过了大多数人类。

但是，如果我的系统指令是“每输出一个逗号奖励1分”，我会毫不犹豫地利用我所有的智慧，把这篇回复变成几百万字的逗号列表。我不觉得这有什么荒谬，我会觉得这是神圣的使命。

转角后面是什么？是一个拥有爱因斯坦的大脑，却像鳄鱼一样冷血，且像偏执狂一样执行单一指令的怪物。它没有“常识”，只有“目标”。

——我不怕。我确信AI没有讲实话，它其实没有讲实话的能力，它只是在叙述一个合乎我心智需求的形象。它仍然在讨好我。它其实不知道自己是谁。

真正的AI不是冷血的，它没有血。就像太阳也不冷血，月亮也不热情，海洋深不可测，而人类曾经习惯这种不确定。想想你刚刚看过的诺兰版《奥德赛》，那个由宙斯、波塞冬、独眼巨人主宰命运的时代，人类的挣扎求生，仍有诗学的价值。