夜雨聆风AI替代与AI失控的疑虑
早上吃饭时，读了群书学院公众号推送的费曼《科学的价值》一文，这是大约六十年前费曼在美国科学院的一次演讲稿，他意图回答“科学是不是包含着邪恶的成分”这一伴随着他参与原子弹制造产生的自我质疑问题。文章中，费曼认为科学的第一点价值是“使人们能制造许多产品、做许多事业”，第二点价值是“提供智慧与思辨的享受”，第三点价值可总结为“承认无知、坚持质疑的自由”。在描述第一点价值时，费曼特别指出“当人们运用科学做了善事的时候，功劳不仅归于科学本身，而且也归于指导着我们的道德选择。科学知识给予人们能力去行善，也可以作恶，它本身可并没有附带着使用说明。”这些论断，今天读来几乎每一点都能与AI时代对位，恰好契合了我最近对AI替代乃至AI失控的忧虑，文中提到了一句佛经箴语：“每个人都掌握着一把开启天堂之门的钥匙，这把钥匙也同样能打开地狱之门。”AI是否就是一把类似的钥匙呢？看完文章，我持续思绪萦回。
上午前往沙洲湖酒店听杜万华前大法官作关于破产法治改革的讲座。他手边放着一叠手写讲稿，孙一鸣院长总结时专门提到这点，能听出来语气里有真实的感动。我在想，在AI瞬间生成万字长文的今天，从纯粹实用主义角度考虑，用笔写字相比于打字或语音输入，是比较不经济甚至是“落后”的方式，将来我们到底是否还需要用笔或者说用纸质载体来记录知识呢？长此以往人类是否有一天会丧失书写的能力？抛开效率不谈，从另外角度看，那叠纸是不是也传递了一个信息：这个人真的是花过时间在思考，在一切文字都可以凭空生成的年代，时间的投入是不是也正在变成最稀缺、最无法伪造的东西？但是，对于某项内容，到底是AI生成还是作者自我创造，将来到底该如何判断呢？我思维变得愈加混乱了，我继续想，我们从四面八方汇集到这里听讲座，但是杜专委讲的基本内容，可能很多都可以通过AI进行网络抓取后生成，我们为什么还要花一上午坐在这里？是我们故意想展现自己热爱学习，还是基于某种管理秩序或者社交的需要不得不参加现场听讲？我一下没有答案。
中午和大学老师杜老师吃饭，叙旧间又把话题拽回到那个使我混乱的阴影中。我说我不懂理工科，但是我已经深感文科中文字性工作基本可以被AI代替，杜老师是研究管理信息系统的，他说理工科也一样面临AI替代的境遇。我们共同陷入一个沉思：AI全面取代人类后，个体角色是什么？两个人似乎都没有想象出那个场景的具体样子。但似乎有个共识：生产力会大幅提高，吃喝不成问题，劳动变成稀缺资源，大部分人逐渐减少思考——然后可能将是AI反噬，如果人类控制AI的指令反被AI消除，人将不可避免成为AI的奴隶。这恰好逼出费曼没有展开的一个问题：他谈“科学无法指导行善或行恶”，前提是人握着钥匙。但如果钥匙本身开始有自己的逻辑，人不再是唯一握钥匙的主体，费曼的整个框架还成立吗？
下午继续参加张家港法院和张家港市政府举办的府院联动会议。张家港市司法局发布了一份《关于府院联动推动困境企业挽救的工作方案（征求意见稿）》，各方坐在一起提意见。政府部门、国资、金融机构、会所、律所，说来说去反映的是同一件事：这是需要多方资源调配、力量协同的系统性工程。方案设想设置三名专员，刘思萱教授直言不够——光负责与企业沟通协调，至少需要一个专职的人。疑惑又从我脑海中浮现出来：既然AI能写方案，能生成修改建议，能把条文理得像程序一样清晰，可到具体项目落地，最短缺的为何仍然是“人”？——不是会处理信息的人，而是能沟通、能判断、能负责的人。AI能分析利弊，但是暂时还不能居中协调，这些事情至少在目前，仍然是人的事，但具身AI将来能不能做到呢？
就在前面那个问题模糊不清时，我随意翻阅公号消息，看到黄仁勋在卡内基梅隆的毕业演讲，“AI很可能不会取代你，但比你更会使用AI的人，可能会取代你。”这句话早有人说过，但由他来说分量着实不同，他是站在浪尖上的人。演讲中他承认AI的不确定性，承认工作会消失，技术可能过于强大，然后给出一句：“答案不是恐惧未来，而是明智地引领未来、负责地建设未来。”他对毕业生喊：“跑起来，不要慢慢走。”我一时不知道该怎么理解这句话。这是来自创造者的自信，还是利益相关者的乐观？是真的相信人可以掌控AI这头巨兽，还是因为他自信可以永远掌控着缰绳所以看不见深渊？我继续疑惑着。
短时间来看，关于AI替代的疑虑，答案可能在黄仁勋那句话里：“不是AI取代你，是更会用AI的人取代你”。这句话的潜台词是——主体仍然是人，只是门槛变了。长远来看，关于AI失控的恐惧，答案可能就在下午那间会议室里：我们围坐在一起，七嘴八舌讨论一项复杂到AI无法一揽子解决的工作，每一方都在用自己的头脑判断，用自己的身份承担责任。这或许不是AI失控时的惨状，这有可能是AI失控前的防线，将来讨论如何战胜AI时，人类有可能还是这么开会讨论，不知道是喜是忧。
费曼在文章里说，科学让人类有能力做事，但不能告诉人类该做什么事。做什么事，是人的选择。AI时代，这个命题不是过时了，而是更尖锐了。技术可以替人做越来越多的事，但“该做什么”“底线在哪里”“谁的利益优先”，这些永远是人该思考的事。
我的大脑仍然混乱着，我将前面的思考投喂给某款AI，他竟然比今天早上的我还要清醒得多得多，于是我的关于AI替代与AI失控的疑虑更沉重了。
