赫拉利：AI成神，还能做奴隶？

刚看完赫拉利7月接受英国《金融时报》记者的访谈，他认为“AI不是工具，是代理人”的观点，洞悉本质，个人深感认同。

原视频地址https://www.youtube.com/watch?v=_V_ed5fuexA&t=50s

简单总结一下：

1、根本矛盾：我们能创造一个神，然后让它成为我们的奴隶？

如果AI真的具有神一般的超能力，那它为什么要永远服从人类？如果它永远只是奴隶，它又算不上真正的超级智能。

2、工具不会“做决定”。

印刷机不会自己决定今天印《圣经》还是《古兰经》，原子弹不会决定攻击哪个城市。但AI可以。AI代理武器可以选择攻击目标，代理金融可以选择投资，甚至可以创造新的交易策略、新的法律结构，乃至新的AI。

3、真正的危险不是“回答问题”，而是“采取行动”。

你问ChatGPT建议，它回答：可以买一张去上海的机票。这是典型的工具。但如果你让AI查航班、比价格、登录账户、使用信用卡、买机票、改行程、给酒店打电话，那么，它就进入了现实世界的行动闭环。

4、AI接管世界路径，不是机器人，而是官僚系统。

赫拉利原话：不要想象AI接管世界是机器人走上街头开枪，真正值得关注的是AI官僚。原因很简单，控制现代社会资源的，正是官僚系统，包括：银行、法律、政府、公司、医疗、保险、媒体，等等等等。

5、是否赋予AI“法律人格”，是该警惕的分界线。

一旦让AI可以管理资金、签合同、雇佣人类、投资甚至打官司，那就是“让狐狸进了鸡舍”，将产生难以逆转的影响。

6、AI会让真相更加稀缺。

在人类社会里，虚构天然比真相更有竞争优势。过去我们用科学体系和专业新闻体系来抵消这种劣势，但AI大幅降低了虚构的制造成本。AI时代的情景可能是，信息越来越多，验证成本越来越高，真实性越来越稀缺。

7、最终稀缺的资源，不是“智能”，而是“智慧”。

“怎样做”会变得越来越容易，“我们到底想要什么”才是真正的问题。AI革命最终迫使人类面对的，不是如何变得更聪明，而是如何知道什么值得做。

#AI#赫拉利#AIAgent