ARTICLE · 1084277
AI是“末日叙事”还是“工程工具”?
AI是“末日叙事”还是“工程工具”?黄仁勋说，AI是一堆代码在计算机上运行。spawn、kill这些词几十年前就是操作系统术语，把process换成agent，不代表软件有了人格。风险当然有，但都是工程问题：隔离、对齐、验证、发布。产品不安全就别发布，实验室控制不了就关掉。他最大的恐惧是末日叙事把普通人吓得不敢用AI。 赫拉利说，AI是人类历史上第一个能自主决策和行动的信息技术。过去所有信息技术都是人类意志的工具。故事、文字、印刷，无一例外。AI不一样。AlphaGo下出第37手的时候，现场解说员说看不懂，职业棋手认为是一步臭棋。但它赢了，后来这步棋被称为“神之一手”。它不需要有意识，只要足够强大、足够听话，执行路径就可能和人类初衷完全背离。真正的风险是我们搞不懂它在做什么。 两个人各说各的，从来没正面交锋过。一个说AI风险是工程问题，能拆解、能验证、能管住。一个说AI会重塑权力结构，人类可能接不住。读者夹在中间，不知道该信谁。 印刷术刚发明的时候，也是一个工程产品。古登堡就是个做金属铸字的工匠，他关心的是字模精度、油墨配方、压印效率。但印刷术最终改变的不是铸字技术，而是宗教改革、民族国家兴起、科学革命。古登堡看到的是印刷机，路德看到的是人人可以读《圣经》。 黄仁勋站在古登堡的位置上看印刷机。赫拉利站在五百年后回看印刷术。两个人都没错，但都只看到了自己那一面。 从印刷机到宗教改革，中间隔了几百年。而AI改变权力结构，不需要几百年，就在你正在用的当下发生。 
下面说三件真事。 第一件。有一家科技服务公司，200多个客户群，原来6个售后轮着盯，还是经常10分钟没人回复。今年3月上线了一个AI售后机器人“小青”，自动巡检所有群，知识库里有答案的直接回复，没有的自动创建工单转人工。人工回复灌进知识库，下次AI就能答。现在1个人管200多个群。 造小青的时候，想的全是降本提效。这是黄仁勋的世界。 但小青上线那一刻，有些东西静悄悄地变了。售后从6个人变成1个人，不叫裁员，叫组织重构。客户关系的归属权从售后人员手里转移到了系统手里。以前老售后离职，带走的是脑子里攒了五年的经验。现在经验在小青的知识库里，人走了，小青还在。 没有末日场景，没有AI觉醒，就在正常的降本提效中，权力转移了。 第二件。这家公司给客户搭AI知识库时，会为每个岗位建一个“数字分身”。比如芯片技术专家的日常技术咨询，全部灌进知识库做成专属智能体，员工有问题直接艾特分身，答不了的再转给本人。 工程目标很清楚：降低对人员技能的依赖。原来需要10年经验的岗位，有责任心的普通人就能胜任，因为知识在系统里，不在人脑子里。 但换个角度看。当岗位核心知识全部沉淀在机器里，人变成了系统的操作员，而不是知识的持有者。以前人走业务塌，现在反过来了：人可以走，知识走不了。企业对人的依赖降低了，人对企业的依附反而升高了，因为知识不在你身上了。当一个人离开公司就什么都不是，而公司离开这个人照样运转，权力在谁手里一目了然。 这是工具，还是权力？ 第三件。这次的主角是人，不是公司。这家公司的经营者，越来越多业务上的判断开始依赖AI。真正做判断的时候，会把背景信息喂给它，问它怎么看。就是因为它没有立场和情绪。 同事给建议，多少带利益考量。朋友给建议，会照顾你的感受。AI不带这些，不讨好你，不害怕你，不欠你人情。 这听起来是好事。但当一个经营者开始觉得AI比人可靠，决策权就已经在转移了。你在用工具，但也在把“谁来替你拍板”这件事交出去。 孙宇晨写过一篇《我的女友景甜》。文中男主面临五千万美元的决策，不问合伙人，不问律师，问的是Claude。Claude的回答斩钉截铁：“不要把这五千万美元给她。对于爱情，我不关心，也不理解。” 当时读到这段觉得荒诞。现在回头看，荒诞的不是那篇文章，是现实。这家公司经营者做的事，和那个男主，本质上是同一件事。 黄仁勋和赫拉利，不让你选边站。他们提醒的是同一件事的两面：你手里的工具，正在变成你头顶的权力。 AI会不会失控不是关键。黄仁勋没错，到目前为止AI风险可以被工程方法管理。但赫拉利抓到了要害：AI改变权力结构不需要等到失控那天。它在正常的降本提效中，在你把售后交给小青的那一刻，在你觉得AI比人可靠的那一刻，就已经发生了。 黄仁勋看到的是印刷机。赫拉利看到的是宗教改革。而站在中间的人，一边造印刷机，一边经历宗教改革。 你说，该信谁？ #求索时代
相关阅读 AI帮的是我爸，不是我这个大学生 梁文锋做DeepSeek的四条认知线，看懂AI怎么走到今天