AI会毁灭人类吗?佛经早已写下,真正失控的,究竟是什么?

人类现在最害怕的，已经不是机器会不会思考。而是有一天，机器比人更会思考，而人类却没有办法让它停下来。

最近，Anthropic的一位研究人员 Jacob Coxon 辞职了。

他担心，人工智能公司正在竞相发展一种能够不断增强自身能力的超级人工智能。可是，人类还没有真正弄清楚，怎样让这样强大的系统始终受人控制。

没过多久，Google DeepMind 一位负责人工智能安全研究的人员，也离开了自己的岗位。他同样担心，人工智能能力发展的速度，已经超过了人类保证它安全的速度。

他们担心的，不是某一个国家会不会灭亡，而是有一天，人类会不会失去对自己制造出来的力量的控制。

可是，我读到这条新闻时，想到的并不只是人工智能。

我想起了佛经里一袋粮食的故事。

一袋粮食，为什么会变成一场人工智能竞赛？

《长阿含经》里讲，最初的时候，粮食自然生长。

早晨收割，晚上又重新长出来。众生每天取用，并不需要担心明天没有饭吃。

后来，有一个人忽然想到：既然每天都要收粮食，为什么不多拿一些，留到以后再吃呢？

于是，他储存了几天的粮食。

别人看见了，心里也开始比较：他能储存三天，我为什么不能储存五天？

大家竞相积存，粮食从此不再随取随生。

接下来，人们划分田地，建立边界；有人藏起自己的粮食，又去偷别人的庄稼；有人责骂，有人动手，人与人之间的争斗越来越多。

最后，众人共同推选一个“平等主”，希望他能够善护人民，赏善罚恶。

这究竟叫贪婪，还是叫竞争？

准确地说，起点是储备，转折是比较，结果是争夺。

“我够吃就可以了”，这是生活需要。

“他能拿三天，我为什么不能拿五天”，这已经不只是需要，而是比较。

“我不能让别人比我多”，这便成了竞争。

而当竞争没有尽头，变成了“我必须永远比别人强”，竞争就会慢慢长成掠夺。

今天大国之间竞相发展人工智能，又和当年众生争夺粮食有什么区别呢？

表面上，当然不一样。

当年争的是粮食，今天争的是芯片、算力、数据、人才和未来的决定权。

当年一个人多藏几袋粮食，可能让别人少吃几顿饭；今天一个国家率先掌握更强大的人工智能，可能影响战争、金融、生产、舆论，甚至影响其他国家的命运。

东西变了，规模变了，速度变了，可里面那个念头并没有完全改变：

他不能比我强。我必须先得到。

如果我不先拥有，它就可能被别人用来对付我。

于是，一个国家说自己加快研发，是为了安全；另一个国家听见了，开始害怕自己落后；为了不落后，它也继续加速；前一个国家更加恐惧，于是再次加速。

每一方都说自己是在防卫，最后却把整个世界推向更大的危险。

这就是人工智能竞赛最令人不安的地方。人工智能未必一开始就想统治人类，它更像是把人类的恐惧、野心、竞争和占有欲，变成了一种速度更快、范围更大、力量更强的工具。

佛经写的不是人工智能，却写过它的因果链。

《长阿含经·大缘方便经》里，有一段话非常直接：

“因爱有求，因求有利，因利有用，因用有欲，因欲有著，因著有嫉，因嫉有守，因守有护。由有护故，有刀杖、诤讼，作无数恶。”

人因为欲望而追求利益，因为利益而产生占有，因为占有而害怕失去，于是开始防守、争斗，最后制造出刀杖和无数恶行。

佛经写的不是人工智能。

但它写过人工智能今天正在承接的那条因果链。

人类想提高效率，于是制造机器；想获得财富，于是发展技术；想拥有安全，于是争夺军事优势；想不被别人控制，于是制造更强大的控制工具。

人工智能，就是人类欲望获得速度之后的样子。

所以，人工智能本身并不是善，也不是恶。

人心慈悲，它可以帮助病人、老人和贫苦的人；人心贪婪，它就可能成为监控、战争和统治的工具。

《妙法莲华经》说：“诸苦所因，贪欲为本。”

这并不是说人不能有愿望。人要吃饭，要治病，要改善生活，要保护家人，这些都是正常的需要。

真正危险的，是一种没有尽头的占有：已经有了，还要更多；已经安全了，还要绝对控制；已经拥有了，还不能允许别人拥有。

这就是欲界众生的困境。

人类并不是因为拥有欲望才有罪，而是容易被欲望牵着走。欲望一旦没有智慧约束，就会从个人心里走出去，变成财富、战争、国家和技术。

那么，人类灭绝是不是欲望的最终结果？

从佛法来说，不能把它写成一个简单的必然公式。

佛法说，贪爱会引出取著，取著会引出争斗，争斗会带来痛苦。当这些力量又被人工智能、核武器和生物技术放大，人类灭绝当然可能成为一种极端结果。

但它不是唯一的结果，也不是无法改变的命运。

因为佛法讲因缘。因缘改变，结果就会改变。

地球不断变化，人类也在其中随业流转

寒武纪、白垩纪，这些地质时代，是地球生命曾经走过的漫长岁月。

如果把地层和化石看成大地留下的记忆，我们会发现，生命从来不是固定不动的。它会出现，会繁盛，会衰败，也会在毁灭之后重新组合。

这正让人想到佛法所说的成、住、坏、空。

从佛法看，寒武纪、白垩纪并不是与成住坏空无关的另一种说法。地球上的生命随着因缘出现、繁盛、衰败，又在新的因缘中重组；众生随业流转，也在这样的成住坏空之中不断来去。到了人类时代，人的欲望又进入其中，使世界呈现出新的变化。

地球和众生，本来就不是彼此分开的。

众生随业流转，世界随因缘显现；世界不断变化，众生也在变化的世界中生存、受苦、争夺，又把自己的行为反过来写进这个世界。

寒武纪、白垩纪，是大地尺度上的成住坏空。

人类文明的兴衰，是众生行为尺度上的成住坏空。

而今天的人工智能，正是人类欲望加入这场变化之后，制造出来的一股新力量。

科学让我们看见了地球留下的痕迹，佛法继续追问：

为什么众生总是在得到之后还想得到更多？

为什么有了粮食还要囤积，有了权力还要扩大，有了安全还要彻底控制？

地球也许不会因为人工智能立刻消失。

但人类可能先让自己的文明变得像一片荒地。

粮食被少数人控制，战争越来越快，人民越来越贫苦，人与人之间只剩下防备和恐惧。

地球还在转动，人间却已经成为火宅。

《长阿含经》里，人们最初建立“平等主”，是为了让他善护人民，赏善罚恶。

这个理由，直到今天也没有过时。

如果未来人工智能成为一种新的公共力量，它当然可能跨越国家、地域和语言，把知识、医疗和救助送到最贫苦的人身边。

但问题是：它究竟会不会真的保护人民？还是会被某一个国家、某一个集团、某一种欲望控制？

如果人工智能拥有摧毁银行、战争系统和国家机器的能力，即使出发点是打击暴政，也未必一定能够带来正义。

因为用一种无法问责的暴力，替代另一种暴力，人民仍然可能成为代价。

佛法真正关心的，从来不只是最后谁赢了。

而是众生的苦有没有减少，弱小的人有没有再次被牺牲，掌握力量的人有没有被自己的欲望反过来吞没。

人类今天问：人工智能会不会有一天失去控制？佛经却像是在反过来问我们：人类自己的欲望，什么时候真正被控制过？

我们害怕未来有一天机器产生欲望，却忘了，今天的人工智能，本来就是有欲望的人类制造出来的。

人工智能会不会毁灭人类，答案不只藏在代码里，也藏在制造它的人心里。

如果人类不肯回头，人工智能越聪明，就越会把人心里的贪、瞋、痴推得更远。到那时，毁灭我们的未必是机器产生了欲望，而是人类终于把自己的欲望，交给了一个比自己更有力量的机器。佛法真正要我们回头看的，不是机器会不会像人一样失控，而是我们自己心里那个“还不够、还要更多、还要由我说了算”的念头，什么时候才肯停下来。