欢迎与时代瞭望台一起瞭望时代

本文预计阅读时间7分钟

您亦可点击「听全文」收听本篇内容

 王小北最近用ChatGPT写了一篇年终总结，又用Midjourney画了几张插画，还让Copilot帮他debug了三段代码。 

 写完之后，他坐在电脑前发呆了很久。 

王小北：周叔，我用AI用了整整一下午。 

 老周正在给一盆绿萝浇水，头也没抬："感觉怎么样？"

王小北：感觉……很爽，但也很可怕。 

 老周放下水壶，转过身来："说说看。"

王小北：爽的是，以前要花一天的工作，现在半小时就搞定了。可怕的是……我开始觉得，我好像什么都不用会了。 

 老周看着他，笑了一下："你知道魔戒里最可怕的是什么吗？"

王小北：索伦？ 

 老周摇摇头："不是。是戒指本身。索伦固然可怕，但真正的诱惑在于——戴上戒指，你就能拥有改变世界的力量。这种力量太诱人了，诱人到你不愿意承认它的代价。"

AI为什么像一枚魔戒

 王小北靠在沙发上："周叔，您是说AI就是现实版的魔戒？"

 老周在他对面坐下，伸出三根手指："魔戒的第一个特点，是它能赋予你'超出你本来的力量'。一个霍比特人戴上魔戒，可以隐形，可以感知世界。一个普通人拥有AI，可以写出自己写不了的文章，画出自己画不了的画，解出自己解不了的代码。这种力量的膨胀，是第一重诱惑。"

 他放下第一根手指："第二，魔戒能让你觉得'我可以控制它'。咕噜拿到了魔戒，也控制了很久。每一个戴上魔戒的人，都相信自己与众不同，相信自己不会堕落。每一个用AI的人，都觉得自己是在'使用'AI，而不是被AI反向塑造。这也是为什么，AI公司最常说的那句话是——'AI是工具'。"

 他放下第二根手指："第三，魔戒会改变你和世界的关系。《指环王》里，戴上魔戒的弗罗多，每走一步，负担就重一分。不是魔戒变重了，是他越来越难以承受那个重量的代价。用AI的人也有类似的感觉——用得越久，越难以分清哪些是自己的思考，哪些是AI的产出。是幻觉，还是真实的认知变化？"

 他放下最后一根手指："所以AI像魔戒，不是因为它邪恶，而是因为它给你力量，让你觉得你能控制它，同时悄悄改变你和它的关系。这三重效果叠加在一起，让拒绝它变得极其困难。"

三种人的三种诱惑

 王小北问："周叔，那不同的人面对AI，感受会不一样吗？"

 老周站起来，走到窗边："完全不一样。魔戒对不同的人，诱惑是不同的。AI也一样。"

 他转过身来："对于普通人，AI的诱惑是'替代感'。你会开始怀疑——我学这些东西还有什么意义？写代码有人比我快，画画有人比我好，写作有人比我流畅。这种'被替代'的焦虑，会让人产生两种极端反应：要么拼命学AI防止被替代，要么完全放弃抵抗，依赖AI完成一切。"

 他走回来坐下："对于企业，AI的诱惑是'效率即正义'。一个AI模型可以替代十个员工的工作，老板们很难不动心。这种诱惑的代价是——当你用AI替代了所有人力，你也失去了员工们积累的隐性知识。那些写在老员工脑子里的经验、判断、直觉——这些AI学不到的东西，一旦失去，就永远失去了。"

 他顿了顿："对于政府，AI的诱惑是'控制即安全'。AI可以监控、可以预测、可以干预——一张天网覆盖所有人的感觉，听起来很安全。但自由的代价往往是安全。《指环王》里，索伦的军队最强大，但它失去了一切。绝对的监控会带来表面的安全，但代价是整个社会的活力和创造力。"

代价是什么

 王小北若有所思："那AI这个'魔戒'，代价到底是什么？"

 老周看着他："你用了一下午AI，感觉代价是什么？"

 王小北沉默了一会儿："我不知道哪些东西是我的了。"

 老周点点头："这就是代价。第一层代价，是'认知主权'的丧失。"

 他站起来，走到他那面旧地图前："人的思考能力，不是天生就有的，是需要训练的。你解一道数学题，重要的不只是答案，是解题过程中你形成的逻辑能力。你写一篇文章，重要的不只是文字，是写作过程中你整理的思路。AI替代了这个过程，你就失去了训练的机会。"

 他转过身："第二层代价，是'判断力'的萎缩。"判断力来自于反复的决策训练。你在海量信息里做选择——哪个观点更合理？哪个证据更充分？这种训练，AI替代不了。当AI替你做了所有选择，你的判断力就会退化。 

 他走回来坐下："第三层代价，是最深层的——'意义感'的消失。"人类需要感觉到自己的存在是有意义的。写一篇文章，哪怕AI写得更好，那篇"自己的文章"是你存在的证明。当你所有的产出都由AI代劳，你会开始怀疑——我的存在还有什么意义？ 

 他看着王小北："咕噜拿到魔戒之后，活了五百年。但那五百年，与其说是活着，不如说是被消耗。他失去了意义，失去了自我，只剩下对魔戒的执念。这才是最可怕的代价。"

弗罗多的路

 王小北突然问："那《指环王》里的人，是怎么对待魔戒的？"

 老周靠在椅背上："三种态度。

一种是咕噜——完全臣服，被魔戒拥有。

第二种是波罗莫——试图利用魔戒的力量，最后被力量反噬。

第三种是弗罗多——他知道魔戒必须被毁掉，但他不是简单地拒绝它，而是承担起毁灭它的责任。"

 他看着王小北："弗罗多的选择，是最有智慧的一种。不是'用'魔戒，不是'抵抗'魔戒，而是承认它的力量，同时负起管理它的责任。"

 老周站起来，走到窗边："面对AI，我们也需要这种智慧——不是拒绝AI，不是被AI役使，而是承担起管理AI的责任。"

 他转过身来："具体来说，意味着什么？" 他伸出几根手指：

"第一，知道AI能做什么，不能做什么。"AI能帮你写文章，但它不知道什么值得写。它能帮你debug代码，但它不知道这段代码要解决什么问题。AI是放大器，放大的是你已有的意图。 

"第二，保留那些'没用'但'必须'的能力。"你还是要学数学，不是因为你要和AI比计算速度，而是因为学数学的过程训练你的逻辑。你还是要学写作，不是因为AI写不好，而是因为写作的过程训练你的思考。这些"没效率"的能力，恰恰是最重要的。 

"第三，保持对AI输出的怀疑。"AI会编造事实，会放大偏见，会用流畅的语言包装错误的逻辑。批判性地审视AI的输出——这是人唯一不可替代的价值。 

最终的问题

 王小北问："周叔，那最终的问题是——AI最终会把人类带向哪里？"

 老周沉默了很久。 

 然后他说："《指环王》最后，魔戒被毁了。但这个毁灭，不是靠暴力，而是靠偶然——咕噜抢到了魔戒，和弗罗多一起掉进了火山。 Tolkien自己说过，这个结局不是圆满的胜利，是'悲悯的偶然'。"

 他站起来，走到那盆绿萝前："AI的结局，大概率也不会是一个干净的答案。我们能做的，是一边往前走，一边保持清醒。"

 他回过头："魔戒最危险的一刻，是弗罗多戴上它说'这是我的魔戒'的那一刻。那一刻，他完全被魔戒俘获了。AI最危险的一刻，是人类开始说'这是我的AI'——然后把所有的判断都外包给它。"

 他最后说："所以，面对AI，我们需要的是品格的成熟——

谦逊，知道自己不知道什么；

审慎，不把最重要的问题外包给机器；

勇气，在AI时代依然坚持做那些'慢'的、'没效率'的、但对的事。"

 窗外天色渐暗。王小北看了看电脑，又看了看窗外的绿萝，说了一句： 

"周叔，我决定明天自己写那篇年终总结。不用AI了。"

 老周笑了："写得好不好不重要。重要的是，你觉得那是你写的。"

 （全文完） 

数据来源： · J.R.R. Tolkien, The Lord of the Rings (1954-1955) · J.R.R. Tolkien, Letters (No. 131, 1944) · Pew Research Center: AI's Impact on Human Creativity and Work (2024) · MIT Technology Review: The Cognitive Cost of AI Assistance (2024)