AI替代与AI失控的疑虑
早上吃饭时,读了群书学院公众号推送的费曼《科学的价值》一文,这是大约六十年前费曼在美国科学院的一次演讲稿,他意图回答“科学是不是包含着邪恶的成分”这一伴随着他参与原子弹制造产生的自我质疑问题。文章中,费曼认为科学的第一点价值是“使人们能制造许多产品、做许多事业”,第二点价值是“提供智慧与思辨的享受”,第三点价值可总结为“承认无知、坚持质疑的自由”。在描述第一点价值时,费曼特别指出“当人们运用科学做了善事的时候,功劳不仅归于科学本身,而且也归于指导着我们的道德选择。科学知识给予人们能力去行善,也可以作恶,它本身可并没有附带着使用说明。”这些论断,今天读来几乎每一点都能与AI时代对位,恰好契合了我最近对AI替代乃至AI失控的忧虑,文中提到了一句佛经箴语:“每个人都掌握着一把开启天堂之门的钥匙,这把钥匙也同样能打开地狱之门。”AI是否就是一把类似的钥匙呢?看完文章,我持续思绪萦回。
上午前往沙洲湖酒店听杜万华前大法官作关于破产法治改革的讲座。他手边放着一叠手写讲稿,孙一鸣院长总结时专门提到这点,能听出来语气里有真实的感动。我在想,在AI瞬间生成万字长文的今天,从纯粹实用主义角度考虑,用笔写字相比于打字或语音输入,是比较不经济甚至是“落后”的方式,将来我们到底是否还需要用笔或者说用纸质载体来记录知识呢?长此以往人类是否有一天会丧失书写的能力?抛开效率不谈,从另外角度看,那叠纸是不是也传递了一个信息:这个人真的是花过时间在思考,在一切文字都可以凭空生成的年代,时间的投入是不是也正在变成最稀缺、最无法伪造的东西?但是,对于某项内容,到底是AI生成还是作者自我创造,将来到底该如何判断呢?我思维变得愈加混乱了,我继续想,我们从四面八方汇集到这里听讲座,但是杜专委讲的基本内容,可能很多都可以通过AI进行网络抓取后生成,我们为什么还要花一上午坐在这里?是我们故意想展现自己热爱学习,还是基于某种管理秩序或者社交的需要不得不参加现场听讲?我一下没有答案。
中午和大学老师杜老师吃饭,叙旧间又把话题拽回到那个使我混乱的阴影中。我说我不懂理工科,但是我已经深感文科中文字性工作基本可以被AI代替,杜老师是研究管理信息系统的,他说理工科也一样面临AI替代的境遇。我们共同陷入一个沉思:AI全面取代人类后,个体角色是什么?两个人似乎都没有想象出那个场景的具体样子。但似乎有个共识:生产力会大幅提高,吃喝不成问题,劳动变成稀缺资源,大部分人逐渐减少思考——然后可能将是AI反噬,如果人类控制AI的指令反被AI消除,人将不可避免成为AI的奴隶。这恰好逼出费曼没有展开的一个问题:他谈“科学无法指导行善或行恶”,前提是人握着钥匙。但如果钥匙本身开始有自己的逻辑,人不再是唯一握钥匙的主体,费曼的整个框架还成立吗?
下午继续参加张家港法院和张家港市政府举办的府院联动会议。张家港市司法局发布了一份《关于府院联动推动困境企业挽救的工作方案(征求意见稿)》,各方坐在一起提意见。政府部门、国资、金融机构、会所、律所,说来说去反映的是同一件事:这是需要多方资源调配、力量协同的系统性工程。方案设想设置三名专员,刘思萱教授直言不够——光负责与企业沟通协调,至少需要一个专职的人。疑惑又从我脑海中浮现出来:既然AI能写方案,能生成修改建议,能把条文理得像程序一样清晰,可到具体项目落地,最短缺的为何仍然是“人”?——不是会处理信息的人,而是能沟通、能判断、能负责的人。AI能分析利弊,但是暂时还不能居中协调,这些事情至少在目前,仍然是人的事,但具身AI将来能不能做到呢?
就在前面那个问题模糊不清时,我随意翻阅公号消息,看到黄仁勋在卡内基梅隆的毕业演讲,“AI很可能不会取代你,但比你更会使用AI的人,可能会取代你。”这句话早有人说过,但由他来说分量着实不同,他是站在浪尖上的人。演讲中他承认AI的不确定性,承认工作会消失,技术可能过于强大,然后给出一句:“答案不是恐惧未来,而是明智地引领未来、负责地建设未来。”他对毕业生喊:“跑起来,不要慢慢走。”我一时不知道该怎么理解这句话。这是来自创造者的自信,还是利益相关者的乐观?是真的相信人可以掌控AI这头巨兽,还是因为他自信可以永远掌控着缰绳所以看不见深渊?我继续疑惑着。
短时间来看,关于AI替代的疑虑,答案可能在黄仁勋那句话里:“不是AI取代你,是更会用AI的人取代你”。这句话的潜台词是——主体仍然是人,只是门槛变了。长远来看,关于AI失控的恐惧,答案可能就在下午那间会议室里:我们围坐在一起,七嘴八舌讨论一项复杂到AI无法一揽子解决的工作,每一方都在用自己的头脑判断,用自己的身份承担责任。这或许不是AI失控时的惨状,这有可能是AI失控前的防线,将来讨论如何战胜AI时,人类有可能还是这么开会讨论,不知道是喜是忧。
费曼在文章里说,科学让人类有能力做事,但不能告诉人类该做什么事。做什么事,是人的选择。AI时代,这个命题不是过时了,而是更尖锐了。技术可以替人做越来越多的事,但“该做什么”“底线在哪里”“谁的利益优先”,这些永远是人该思考的事。
我的大脑仍然混乱着,我将前面的思考投喂给某款AI,他竟然比今天早上的我还要清醒得多得多,于是我的关于AI替代与AI失控的疑虑更沉重了。
夜雨聆风