夜雨聆风终于花了大半天的时间把赫拉利的《智人之上》读完了，其实距离出版有几年了，是一部信息非常丰富、引人深思的巨作。作者的野心确实很大，知识体系也很庞博。整体感觉前半段很震撼，很成熟的理论体系，愿意给10/10分。中间部分对于政治体制的讨论，民主和专制的路径也不偏不差，中规中矩，7/10分。后半段对于AI时代，只能说是抛砖引玉，给出一些警示和启发方向，毕竟人当前的视野能做出来的判断和抉择还是有限。与其说是提出一套成熟的制度建设，只能说是浅尝则止的哲学思辨，5/10分。不过情有可原，毕竟历史学科的特点就是很难研究当下进行中的事件。
首先，印象深刻的是作者对信息的深入论述和理论建构。ai毕竟重塑了人们对于信息的理解，但是当今人们对ai信息的认识，其实也还挺肤浅的。
当下大众以及技术乐观主义们理解信息时，会认为信息本质上是件好事，我们拥有的信息越多越好。只要有足够的信息和足够的时间，我们就一定能找出各种事物的真相（从病毒感染到种族主义偏见），不但让人类的力量得以提升，也能让智慧得以成长，进而能更明智地利用这种力量。
这种认知信息的态度，被认为是天真的信息观。
而对于权力欲望很重的人来说，信息对他们可以是武器。揽取更多权力的工具。更极端的民粹主义会认为世上根本没有什么客观真理，每个人都有自己的真理，并想以此来压倒对手。当民粹主义成功地让人们觉得信息就是一种武器而进行传播时，语言本身就会受到损害。
这被称为民粹的信息观。
但是其实人类过去几千年的社会演变规律下形成的信息体系模式，更像是一种复杂的信息观。
为了追求生存与繁荣，每个人类信息网络都需要同时完成两件事情：既要追求真理、真相，又要创造并维持秩序。因此，信息的作用一方面是帮助人类认识世界，比如如何处理信息才能对医学、猛犸象和核物理等事物有更准确的理解。另一方面，人类要学习如何运用信息才能在更大的人群中维持更强大的社会秩序。遗憾的是，拥有大量信息并不能保证得到真相，也无法保证能维持秩序。使用信息时既要找出真相又要维持秩序，这是一个极为困难的过程，更糟糕的是，这两个方面还常常互相矛盾。毕竟，凭借虚构的故事通常更容易维持秩序，也就是所谓的愚民政治吧。作者举例说人们虚构出的民族、国家等概念，用这套故事去维持秩序。
如果说信息是对于现实的反映，就不得不区分三种现实类型层次。第一个层次是客观现实，由石头、山脉、小行星这样的事物组成。不管我们是否能意识到，这些事物都客观存在。举例来说，假设有一颗小行星正在撞向地球，这时候就算根本没人发现，它也依然存在。第二个层次是主观现实，比如痛苦、欢乐、爱等，它们看不见也摸不着，不存在于外界，只存在于我们心里。这些主观现实存在于我们对这些事物的觉察感受中。而像“感觉不到的疼痛”这种说法就是矛盾的。但故事能够创造出第三个层次的现实：存在于主体间的现实。
主观现实（例如痛苦）只存在于个人的心智之中，但主体间的现实（例如法律、神祇、国家、企业和货币）则存在于许多心智形成的联结里。讲得更具体一点，这样的现实存在于人们相互讲述的故事中。而信息就是这些交换中不停讲述的故事。 对于前两者而言，说不说，是否将这种信息表达出来，都不影响现实存在。例如，如果我说自己很痛苦，并不是因为我说了这件事而创造出这份痛苦；如果我不说这件事，这份痛苦也不会就此消失。同样，如果我说我看到了一颗小行星，也不是因为我说了这件事而创造出那颗小行星。无论说与不说，小行星都存在。但是，法律、神祇、货币等事物之所以能被创造出来而形成现实，正是因为很多人彼此讲述关于法律、神祇和货币的故事；如果大家不再谈论这些相关的故事，这些现实会就此消失。
如果说人类社会是依靠这种主体间的信息交换而建立起来的，那么对于ai的社会而言，一个关键的问题就是，如果ai生成的信息越来越多，权力越来越大，之后的主体间信息交换，就不再是人类信息的交换，而是ai信息的交换。而在这基础上建立起的世界的运转是如何我们也不知道！ 信息越来越多，人类说的故事也许无法说服人类了，ai营造的故事人类相信吗？但是现在的技术，理解ai做决策的过程依旧是一个黑盒子，人类能够控制住ai产生信息的对人类社会的负面效果吗？作者在批判社交平台的采用“用户关注度“为主的流量算法模式时，举出了2016-17年算法机制导致脸书对于缅甸种族歧视的煽动，在现代社会却引发激烈的种族屠杀行为。
在第二部分对于民主和极权的两种制度的回顾，在政治学背景的人看来，倒乏善可陈。不过我对于他在第三部分展望ai技术在民主和极权体系下的发展前景时，有一些观点合乎我预期之中，又有一些打破我预期。
合乎预期的部分：
关于ai时代技术革命引发社会动荡的猜测不是危言耸听。在1929年华尔街崩盘之前，德国劳工失业率约为4.5%，但到1932年年初，已经攀升到将近25%。如果只要三年高达25%的失业率，就能让一个看似繁荣的民主国家变成史上最残暴的极权政体，等到自动化在21世纪的就业市场引发更大的动荡，世界上的各个民主国家会变成什么样？
对于中央集中的制度而言，ai技术发展意味着明显的优势。 作者举出一个遗传学的例子。假设几个不同国家的企业都想研发出一套算法，找出基因与各种疾病的关联。新西兰的总人口为500万，而且隐私法规严格，基因数据与医疗记录不易获取。中国有14.1亿人，隐私法规也较为宽松。你觉得哪个国家的企业更有机会研发出一套遗传算法？巴西如果打算购买一套遗传算法，提供给国内的医疗保健体系使用，比起向新西兰购买，它会有强烈的动机选择准确度高得多的中国算法。如果这套中国算法又能用巴西超过2亿人的数据继续精益求精，品质就会越来越好，得到更多国家的青睐。很快地，全球大部分的疾病信息都会流向中国，进而让这套遗传算法完全没有对手。
同样，为了能够和极权体制竞争，民主体制同样可以作弊，变得不那么民主。比如“对于这种极权倾向，有些人相信可以用区块链技术制衡，毕竟区块链在本质上有利于民主、不利于极权。要在区块链系统做决策，需要得到51%的用户的批准。虽然这听起来很民主，但区块链技术有一项致命缺陷，问题出在“用户”这个词。某人如果有10个账号，就会被算成10个用户。如果政府控制了51%的账号，就能自己构成51%的用户。目前在区块链网络已经有一些例子，政府自己就是51%的用户。如果政府成为区块链51%的用户，它除了能控制区块链的现在，还能控制区块链的过去。这样一来，一个披着民主外壳的体制能够实现从古至今专制者一直都希望拥有的改变过去的权力。
作者指出的一些我没有想过的问题，还挺有趣的。
对于极权政府的ai使用发展而言，
1.政府如果采取了某项极为失败的政策，后来又改变心意，常常就会把失败推到别人头上，掩饰自己的过错。而人类又常常是经过惨痛的教训，才能学会忘记那些给自己找麻烦的事实。但我们要怎样才能训练聊天机器人程序，要它赶快忘记那些今天被批得一文不值，但在短短一年前还是国家官方立场的政策？这将是极权政权难以应对的重大技术挑战，特别是在聊天机器人程序越来越强大，也越来越不透明的情况下。
2.如果政权仰赖的是一套力量强大且高深莫测的人工智能，所有信息都由人工智能来收集与分析，人类独裁者就有可能直接失去一切权力。这位独裁者就算依然身在首都，也像是被隔离在一个数字孤岛上，只能受到人工智能的控制与操弄。
3.独裁者无法摆脱的问题，就是自我修正机制薄弱，以及下属尾大不掉的威胁，而人工智能的兴起又可能让这些问题变得更为严重。
对于民主体制的ai发展而言
1. 1929—1933年，美国的失业率同样高达25%，之所以在美国与德国造成如此不同的结果，是因为政治从来就不只是经济因素的产物，还是依靠强大的机构制度与思想根基。权力分散也许让效率没有办法最大化，但是作者认为，民主制度想要存活的话，效率低一点儿并非坏事，反而是一件好事。如果想要保护个人的自由与隐私，最好还是别让警察和上司对我们无所不知。
2. 如果民主制度打算加强对个人的监控，就必须同时加强对政府与企业的监控。税务或福利机构收集更多关于民众的信息，并不一定是坏事，反而可能有助于提升税务与福利制度的效率与公平性。但我们不想看到的是所有信息的流动都是自下而上的。例如，亚马逊与TikTok简直太了解我的个人偏好、购买行为与个性了，但我却对它们的商业模式、缴税政策与政治立场几乎一无所知。它们到底是怎么赚钱的？是否正常纳税？是不是听令于哪个政治领主？或者有哪些政客被它们操纵？这些问题也许很重要。
3. 新的计算机网络对民主制度的最后一个威胁不是形成数字极权，而是促成数字无政府状态。民主制度的去中心化性质以及强大的自我修正机制虽然能够抵御极权制度，但也让维持秩序的难度增加。民主制度的运作必须满足两个条件：能针对关键议题进行自由的公共对话，能维持最低限度的社会秩序与制度信任。而自由的对话绝不能落入无政府状态。特别是在处理紧急而重要的问题时，进行公共辩论必须有一套公认的规则，也必须有合法的机制以保障某种最终决定的达成（即使没有办法让所有人都满意）。
也许我们在很快就能看到奇点时刻来临。鉴于3年25%的失业率带来的上一次可怕的世界战争，不知道未来会走向何方。结合之前看过赫拉利和王小川的对话，一位历史学家（对ai技术谨慎悲观派）和技术先驱（ai乐观派）的辩论来看，我感觉，还是人类专注提升自己的精神修养，可能对于迎接未来的时代更有实质性的帮助。
