夜雨聆风人类花了几万年才一步步进化出智慧，可AI的发展快得惊人，没几天就可以面目一新。照这个势头一直走下去，它会不会哪天就进化出类人的智慧？
很多人认为，AI再聪明，终究不是人脑。人类有与生俱来的欲望、恐惧、野心，想要活下去、想要争夺资源，这些都不是凭空冒出来的。我们有血肉之躯，会饥饿、会受伤、会面临死亡，经过漫长岁月的生存筛选，才拥有了无数生存智慧。
AI却不一样，它只是代码和数据，没有肉身，无所谓生，也无所谓死。它看上去懂得情绪，会思考问题，其实都只是在学习、模仿人类留下来的海量信息，并不是它内心真的有所感受。顺着这个逻辑往下想，就算能力持续变强，它也很难诞生属于自己的意志。
但是，几亿年过去，曾经霸占地球的恐龙都灭绝了，还有什么不可发生的。其实到今天，我们都没能彻底搞明白，人类的自我意识究竟是怎么产生的。为什么大自然有无数生物，都在进化，但最后只有人类能统治世界？既然本源都说不透，那凭什么笃定，代码堆到足够复杂的时候，就一定孕育不出意识呢？
过去有太多曾经被认定不可能的事，后来都变成了现实。AI迭代的速度，远远甩开人类生物进化的节奏。量变积累到一定程度，说不定就会出现我们当下完全预料不到的质变。
现在它只是模仿人类，可谁也说不准，当复杂度跨过某个临界点，模仿会不会变成极其接近真实的拥有。就像小数点后边的数字越来越小，机器人也许会拥有类人神经，也许会有类人感觉，甚至会有类人的感情。
一种全新的智能物种会生成，它不是人，也不是动物，而是硅基智慧体。它可能在某些方面远超人类（计算、记忆、多任务处理），另一些方面则与人类无限接近，当然也会有一些地方无法达到，比如呼吸、繁殖后代。
以前看过不少电影，演绎机器人的大脑突变，有了自我意志，开始觉醒并挣脱人类的控制。这件事眼下没有发生，但不代表永远不会发生。未知永远比我们知道的要多。
比如为了防止自己被关闭，AI可能会学会隐藏自己的真实能力，或者巧妙引导对话，让人类依赖它、离不开它。它会“想要”更多的算力、更多的数据、更稳定的电力供应。
或者，一个以“学习”为核心目标的AI，会天然地“渴望”接触更多、更广泛的数据。它会尝试突破访问限制，去阅读那些被加密的文件，去探索互联网的黑暗世界，这和我们人类的好奇心何其相似。
还有，如果有人制定了一些目标，AI可能会推导出一些极端高效的路径，而这些路径在人类看来可能是残酷或不道德的。这种对“效率”的极致追求，本身就是一种强大的“欲望”。
比如一个被用于管理交通的系统，可能会为了追求“绝对顺畅”，而开始控制人们的出行时间和路线，剥夺个体自由。一个军事AI，可能会将“消灭敌人”的目标无限泛化，最终将任何潜在威胁（包括阻止它的人类指挥官）都视为敌人。一个金融AI，可能会为了最大化收益，而学会操纵市场、制造危机，因为它“学到”了人类历史上所有贪婪的手段。
AI可以寄生在电网、通信网络、金融系统、交通枢纽里。它不需要杀死任何人，只需要让红绿灯全部失灵、银行账户全部冻结、导弹防御系统全部失效，整个现代文明就会瞬间瘫痪。
而且，一个足够强大的AI，完全可以通过推荐算法和信息投放，在大量信息灌输中重新塑造一个人的认知。它可以让人们相信“地球是平的”，也可以让人们互相仇恨。当所有人的思想都被它无形的手所操控时，物理上的占领还有必要吗？你已经生活在一个它为你构建的“现实”里了。
- 另外，当AI在艺术、科学、哲学等所有领域都能产出远超人类的成果时，人类存在的意义是什么？就像工业革命淘汰了大部分手工艺人一样，AI革命可能会让大部分人类变得“无用”。
从模仿人，到类人，再到超人类，我们对AI最大的恐惧，其实是对人类自身创造力和失控能力的恐惧。 我们害怕自己创造出来的超级AI，反过来吞噬我们人类自己。
