夜雨聆风1889年，俄国人在蒙古发现了一块石碑。
⬆️阙特勤碑，公元732年由突厥汗国所立。
这块碑上的文字很有趣。
正面是汉字，是唐玄宗为已故可汗写的悼文，以及对两国关系的期许。大意是：大唐和突厥是相亲相爱的一家人，我是你们的爸爸。
背面和侧面还刻满了突厥文，是继任的突厥可汗写的，其中一部分的大意：别看汉人说话甜如蜜，他们就是想拿金子和丝绸引诱我们，之前信汉人这一套的，都被杀了。
同一块石头，正面叫爸爸，背面叫仇人。
百度百科上说，突厥文那面是正面，汉字在背面。很明显这个描述不对。甚至学术界用东西南北面来论述，我认为也只是形式上客观。
掌握石料和刻刀的，就应该叫正面。没技术那个只能偷偷往背面刻。
碑文的戏剧性对比，真实反映了当时突厥和大唐的表面和平，同时也引出一个很古老的问题：从发明文字开始，人们把事写下来，传下去，后人反复阅读引用。可是，谁来决定事怎么讲？
更进一步：这个世界，到底是谁说了算？
一开始的说法：暴力说了算。
这是最古老的答案。农业时代，谁掌握了暴力，谁就有收税权、征兵权、生杀权。
韦伯将国家定义为“合法暴力的垄断使用”。
他认为权威分成三种理想类型：传统型的合法性来自惯例，比如皇帝；魅力型的合法性来自对领袖个人超凡特质的信赖；法理型的合法性来自成文的法律规则。
这里我们只讨论法理型。按照韦伯的的理想定义，谁说了算？法律说了算。
当然了，理论和实践之间隔了一整部人类历史。
后来，阿尔文·托夫勒在《权力的转移》中更进一步，将权力分成了三个阶段：暴力（低质量权力）、财富（中等质量权力）、知识（最高质量权力）。他说信息时代的到来，意味着权力逻辑将被改写——谁掌握知识（信息），谁说了算。
托夫勒的预言写于1990年。三十多年过去了，回头看，他猜对了一半。信息确实重要了，但很显然他忽略了信息的生产过程本身就嵌在权力结构中。
信息本身也是被制造的。
接下来的说法：规则说了算。
1967年，约翰·加尔布雷思发现，大公司里，股东名义上对公司有所有权，但实际决策权是中层那些专业技术人员在掌握（经理人、工程师、会计、律师等）。这些人掌握着决策所需的信息和知识，所以所有权和控制权分离了。
资本家说了不算，管理者说了算。
加尔布雷思管这叫“技术结构”。
这一理论被后来的管理学反复讨论，部分证伪，因为股东同样可以通过董事会机制和高管薪酬设计来影响管理层。但他提出的核心问题还在：谁掌握了决策所需的信息，谁就有实际权力。
这跟阙特勤碑的逻辑一样。
唐玄宗掌握了石料和刻刀，所以他的悼文刻在正面。你说突厥可汗不想自己找块新石碑刻下么？他可太想了，不然他也不至于用凿子把背面和侧面都划满了。
按照这个逻辑，信息时代的石料和刻刀是什么？是数据中心、算法、用户协议、训练AI用的语料库。谁拥有这些，谁就拥有新时代的石碑。
所以，关于当代的权力转移，至少有三件事托夫勒没能预测到。
第一件事，石碑变成了什么？
托夫勒说知识是未来的权力来源，而如今，知识的载体本身变成了权力。
福柯在《规训与惩罚》中描述了权力从君主权力，向规训权力的转变。
简单来说，不需要有人拿鞭子抽你了，你会自己监督自己。比如发朋友圈前修图；比如我在写作时知道什么该说什么不该说；再比如所谓的“男性凝视”到底是啥…哦，这个不该说🫢
总而言之，不用有人费劲编规则手册了，你自己心里就有。
然后，肖莎娜·祖博夫将这一理论带进科技批评领域，发展为监控资本主义理论。
她说，类似谷歌这样的公司，通过收集用户的搜索记录、位置、行为等数据，预测用户下一步会做什么，然后把预测卖给广告商。
她将这种公司从用户经验中提取出的数据，称为“行为剩余”（behavioral surplus）。
当然了，这只是她针对西方资本主义社会进行的观察和分析，我们不能把这当作绝对真理。但这个框架本身很有解释力。
福柯讨论的规训，发生在有形的机构里；而监控资本主义，把规训发展成无形且持续流动型。
我被“规训”了，我甚至不清楚谁在规训我😱
第二件事，碑文是谁写的，为什么我不知道？
如果权力真的在向知识转移，那么至少我应该能看到规则是谁写的啊，对吧？
但现实呢，规则被写在我进不去的地方。注意啊，这句话不是修辞，是事实。
当代社会里，我们在至少十几种规则体系里生活：信贷、招聘、税务、保险模型……还有玄学一样的平台算法。这些规则直接影响我能否买房、找到工作、拿到贷款、写什么能被看到。
而你知道写这些规则的人都是谁么？绝大多数人，连规则是什么都很模糊。
2018年有个研究团队，记录了搜索引擎的算法如何放大了对黑人女性的刻板印象。在搜索“黑人女性”时，排在前列的是成人内容。没人在算法里专门写这套指令，算法自己从历史搜索行为中“学”到了这种关联。
这个团队专门出了本书，没有中文译本，但在数字权利领域的讨论中被广泛引用。我在《硅谷密码》和《过度智能》等书的引用列表中都看到了这本书，英文原名是《Algorithms of Oppression》。
这足以证明，算法并非中立。把偏见吃进去，再吐出个看起来不带感情的结果，只是看起来客观罢了。
这就是问题所在：算法洗一下，偏见就能变成客观。
当人为偏见从政治问题，变成了技术问题，又该如何判断和纠正？
到这里，你可以想到接下来我想说什么了。对，大语言模型同样会内化训练数据中的偏见，并且由于模型体量太大，无法审计其输出结果。
我们正从服从压迫，转向服从计算。
这就引出了本文我真正想表达的第三件事：AI时代，谁说了算？
2023年，包括马斯克，以及苹果联合创始人在内的一千多位科技界人士，签署公开信，呼吁暂停训练比GPT-4更强大的AI至少六个月。
两个月后，OpenAI的CEO奥尔特曼，坐到了美国参议院司法委员会的作证席。
跟之前坐到这的扎克伯格等人不同，没人传唤他，他自己主动去的。他对议员们说：“我们认为，AI技术应该被监管干预。”
一家科技公司，主动要求监管。你说他为啥这么干呢？因为他们发现自己都不知道在建的这个东西会变成什么，会给人们带来什么样的影响。他们害怕了。
此后，在AI安全领域，人们才第一次开始正视一个问题：如何确保AI与人类的价值观保持一致？
三年过去了，这个问题目前没有答案。
其实这个问题早都不新鲜了。早在1960年，控制论创始人诺伯特·维纳就警告过：给机器一个目标，它将会以无法预料的方式去实现。
曾经我设想过一个科幻情节：你要赶飞机，时间不多了，于是你告诉自动驾驶AI以尽可能快的方式到机场。然后机场高速上堵车，自动驾驶系统开始故意撞车。因为在堵车的情况下，通过撞车的方式让机场警察来把你带到机场，就是AI判断下最快的方式。
自动化会带来道德风险，这是目标函数和约束条件之间的老问题了。
所以，AI时代，也得有人说了算。
目前训练AI所需的大规模数据集，集中在公司手中。在外面，微软和OpenAI在一起，谷歌有油管和搜索引擎；在国内，嗯…就不多说了，围墙花园了这么多年，相信各位知道怎么回事。
大模型的训练成本，使得模型的训练门槛极高，必然导致数据集中，而数据集中的后果是什么呢，很容易想到。
回到文章开头那块石碑。
以上，可以看作是我在论证汉字那面是正面，虽然我也有点自己骂的那种“我是你爸爸”的老登情结（关于如今的互联网氛围，鲁迅有话说…），但这不是我想论证这件事的原因。
最近这段时间我一直在探究一个问题，当年后来的有突厥，让正面背面变成了一个如今可以讨论的问题。那么，如今还有“突厥”吗？
我没找到能说服我的答案。
开源社区想让模型能在自己电脑上运行，多国在推AI相关条例，这些努力能不能在正面的边缘刻下新的凿痕，我个人持悲观态度。
因为当前这些努力，只能算是在石料开采环节努力。可是该让谁来验证石碑上的话呢？
权力厌恶复杂，很容易被表象说服。
石头硬、重、难以毁坏或搬运，所以活过了刻字的人，活过了好几个朝代，活过了所有当事人的记忆。被刻在石头上的文字，自带了让人不敢怀疑的严肃。
但就像我在文章开头说的，同一块石碑，正面叫爸爸，背面叫仇人。
近一年已经不止一次听人在发表观点前会先带上“豆包说”，这完全可以看作另一种信任。
我们对信任石头，很大程度上是信任权威。
石头肯定无法自己辩护，辩护的是读石头的人，而当读石头的人，想让我们相信，他们解读的不是故事，是确定无误的科学时怎么办？
当解释的权力没有被监督，一个错误的起点可以发展成一个学科，一份编造的材料可以成长为一代人的信仰。
现在，你手里就有这么一块石头，上面刻着人类几千年写下的大多数东西。这块石头大到你无法全部阅读，复杂到没有人能逐条审计内容，你只能看到石头正面刻了什么——
你如何知道背面刻了什么？你如何知道原本被刻下，但被时间磨掉的痕迹说了什么？你如何知道根本没资格被刻上石头的人说了什么？
没有人能知道。
最后再讲个故事吧，堵一下可能说我忧天的嘴。
《中华人民共和国义务教育法》于1986年颁布。在此之前几千年里，识字是少数人的特权。绝大多数人活着，干活，然后死了。他们的名字没有被刻上过任何东西。他们爱过谁，恨过谁，相信什么，恐惧什么，没有人知道。
他们沉默地活过，然后沉默地消失。历史是识字人的历史，刻字的石头是识字的人立的。
生活没有被记录，不等于没存在过。历史记得正面的刻字，而角落里的凿痕，同样是历史。
AI时代已经到来，碑换了质地，刻刀换了形态，但逻辑没变。正面的人想让我们相信他们的故事是唯一的故事，而背面的人继续在找凿子。
女性主义叙事在不知道该怎么收尾时，总是很有用——
找不到凿子的时候，声音本身，就是凿子。
