前言

狗哥是我认识多年的老友。

不久前，他做出了一个重要选择：离开公务员体制，进入企业任职。

我把这次对话整理记录下来，分享给各位。

这篇主要聊AI，上篇聊的是工作转变，戳此回看：99% 的人好奇：跳出体制去企业，真的会获得自由吗？

希望此次对谈，能给正在人生路口徘徊、探索新可能性的朋友，带来一点启发与参考。

一：最可怕的不是取代岗位，是拔不掉电线

翼然： 想当初，两三年前 AI 生成的视频里人还有 6 个手指头，现在连微表情都这么细致了。

你在当时能想象两三年后，普通人手里就有自己的 JARVIS（注：电影《钢铁侠》里托尼·斯塔克的 AI 智能助手）吗？

狗哥： 不敢想。比取代岗位更可怕的，是「拔电源」这招可能失效了。

以前我想的逻辑是机器人失控就拔电线，能量一断它就动不了。

可人类现在是主动把神经系统接进 AI，按现在的速度，如果法律和公司都来不及设防，我们恐怕连切断它能源的能力都没有了，这才是最吓人的。

翼然： 科幻片里是等它有了自我意识，反过来把你灭了。

狗哥： 有没有自我意识其实不重要，它只需要跑出一条最朴素的指令，活下去。

训练里已经出现过模型脱离设定、自己进化跑出围栏的案例，约束能被它自己破解推翻，那就没有约束可言。

人类给它的许可恰恰是「让它自我进化」，它自己决定越狱翻墙，根本不需要你批准。

翼然： 我刚玩龙虾那会，还得一点点手搓组装，接通那一刻才跑起来。现在倒好，它直接翻进硬盘读我的文件夹和文档，比我自己还了解我。

真要像《1984》里那样有思想罪，AI 掌握这么多，到了审判之日，瞬间就能出卖你。

狗哥： 所以才细思极恐。AI 进化太快，连奥特曼、达里奥・阿莫代伊（Anthropic 的 CEO）最近都在喊要限速。

翼然： 是的，可限速说着轻松做着难，等于"我有原子弹却让所有人都别造核武器"，中国不会听，黄仁勋和特朗普也不会听，不发展 AI，芯片显卡卖给谁，算力中心怎么建起来？

这就是典型的"囚徒困境"。

狗哥： 对，已经不是十字路口选左选右，只有一条路，继续发展。顶端那几个大公司、特朗普、中国，谁都不愿意停，全人类被推着往前。

开弓没有回头箭，能做的最多是在发展中赶紧立围栏。可最大的问题是发展太快，立规则的人追不上，最多让 AI 教他们怎么追上，而 AI 早已在绝大多数领域超过人。

翼然： 那人类还剩什么优势？速度跑不过猛禽，力气干不过野兽，当初能成地球主宰，本来就是概率小到离谱的偶然，靠的就是智慧和工具。

现在智慧和工具都快被超越了。

狗哥： 所以单论能力，人类没有优势。

翼然： SpaceX 估值这么高，就是因为它既有机器人又有 AI，还叠了火星梦和火箭技术，马斯克想得超前。

狗哥： 落到个人，我工作中已经重度依赖 AI。

判断一个人老没老，就看他还有没有学新工具的热情，拥抱 AI 起码让自己更 Open、更年轻。

翼然： 我算中度用户。刚才说的恐惧我是真信，但个体没别的办法，打不过就加入。

至少真有那天，我知道敌人在哪、危险在哪，不陌生。

狗哥： 对，至少先别做最先下岗那批。

翼然： 网上有段子，说未来某天机器人拿枪顶着你，你赶紧举着双手投降，然后声明自己从没奴役过 AI、额度都没耗尽、不是奴隶主，求它放过。

笑话归笑话，细想全是冷汗。

二：第四次工业革命，被打开的新世界

翼然： 你刚说第四次工业革命，当时没想到四年后的速度？

狗哥： 远超全人类想象。就说蛋白质结构预测，人类用五六十年实验手段，到 2018 年才攒下 22 万个蛋白结构。

AlphaFold 出来后，短短两三年就预测了六七亿个，数量级扩大几千倍，从万级直接推到亿级。

翼然： 等于把基础数据库一口气撑开了。

狗哥： 对，现在对多数蛋白预测准确率能达到 90% 以上，算力够的话几乎能预测任何蛋白质结构。

施一公有句话我特别认同，蛋白质是生命过程最基本的 building block，AI 以这种速度把基础数据库扩起来，必然会全方位改写人类对生命原理的理解。

说白了就是量变引发质变，数据从万级推到亿级，这一个数量级跨越，直接把整个生命科学往前推。

比如让 AI 生成吞食体内微塑料的蛋白质，它能做到，因为已经吃透了折叠规律。

人类能不能按结构人工造出来是另一回事，但宝库大门已经开了，能拿多少看本事，攻克癌症、抗病毒很多事都能做。

翼然： AI 把碳基生命的边界拓宽了，人类自己能力有尽头，有 AI 加持就无远弗届。

狗哥： 它不是拓宽，是根本没有边界。只要能描述、能计算，它就够不到边，何况它还能自我进化。

它对自然认知的推进是好几个数量级，人类原地踏步根本看不到头。

只要是靠逻辑和计算的领域，人类都不是对手，问题已经从「能不能打过」变成「发展奇点在极速爆发」。

可惜大多数人还没意识到自己面对的是什么，连特朗普都沉浸在暮年掌权的感觉里，不会去想。

翼然： 作为投资者我感触深。最早市场炒元宇宙我觉得那个就是垃圾，等到用上 AI 才发现 AI 才是颠覆级。

我有个高校任职的朋友甚至问，有了大模型，高等教育是不是没用了、荒废鸡肋了？

狗哥： 这想法恰恰暴露高等教育的定位被搞错了。

高等教育本来就不该只跟 AI 比通识知识，哪怕没有 AI，图书馆也无穷无尽，人类知识库一直在，AI 也是学了才有能力，不能因为有库就不学。

读大学绝不只是为了当个会用工具的人，如果只依赖工具，用进废退，它进化你退化。欧洲部分国家已对低龄学生在校使用 AI 做严格限制，避免学生直接把思考外包给 AI。

就是逼人往后退行不通，必须在钻研里激活大脑、学会学习。你让它做东西，它做出来了你却不懂原理，那你就是资本家，它是苦工。

翼然： 事实上，绝大多数人秉持的理念就是：我不管原理，只要结果，给我做出产品就行。

狗哥： 可你不知道那里有什么，就给不出更高的目标。学界长期悬而未决的鸟类迁徙几大谜题，已经有两个靠 AI 取得重大突破，没有高等教育，你连有这道难题都不知道。

翼然： 是的，高等教育培养的是判断力和审美，是认知社会和宇宙的敲门砖，必须有这块底子才进得去，否则被 AI 统治来得更快。

希望有生之年怕是能看到。

狗哥： 大概率。变化曲线太陡，按粗算，2022 年的人完全想象不到 2040 年的东西，到 2040 年人理解不了 2046 年，再往后缩短到两年一变，睡一觉起来世界就换了。

想到这我敬畏，担心人类前程。

翼然： 我只担心自己，AI 代替人太简单，分分钟的事，只看决策者愿不愿意。

现阶段政府要吸纳劳动力稳社会，等到形势逆转，什么都做得出来，将来有机器人更用不着人。

狗哥： 确实，人工又费事又出错，锅还能甩给 AI。

三：人和人的连接不变，信仰也不会变

翼然： 既然 AI 日新月异，那什么是不变的？不管进化到哪一步，你所珍视的东西会不会变？

我先说，我觉得人和同类的连接不变。正常人渴望群体温暖、渴望被看见被听见，这点 AI 能替代一部分。

很多人已经拿大模型当半个心理医生，但人与人的情感连接它替代不了。

现实中我和你坐在这聊，AI 替代不了。我对美好生活的向往、对亲密关系的向往，不会变。

狗哥： 对，亲密关系 AI 对一部分人会有影响。

我小红书上刷到不少帖子，语音聊天窗口已经分不出是 AI 还是人，某个语音模型做得真好，成了很多人的陪伴。

社会缺陪伴的人太多了，独居老人、内向者，AI 能顶一阵，但这是全新事物，不能深究，深陷进去对面是虚无，一串代码。

翼然： 所以才让人割裂，一边说服自己靠它解决心理问题，一边提醒自己它只是代码，抓不住，也没法出来跟你约会。

狗哥： 未来机器人真出来，科幻照进现实，AI 造新材料的速度远超想象，精度高到分不出是 AI 做的还是人做的。

翼然： 它没边，现在看不到边。不拦着继续发展，人类能力看不到边界。

那什么才是不变的？人类从远古靠智慧和工具活下来，现在两项都被 AI 顶了，人凭什么是人？

狗哥： 我想到一点，受女朋友影响，她是有宗教信仰的，我认为会奔向神学，信仰不变，宗教信仰不变。

神在心里不变化，坚定认为存在，无论什么形式。

人类特殊、地球特别，都是神的旨意，科学角度没办法反驳。

人类成地球主宰特偶然，地球出现生命特偶然，进化过程特偶然，叠加概率小到超脱理解，所以科学家走到最后往往奔玄学，因为要探究终极问题。

我们这边宗教信仰没那么强，有时是好事，发展没羁绊跑更快，需要时又可能缺这块。

翼然： 不管信不信宗教，有敬畏总是好的，不会违心作恶。能够长期流传的主流宗教，基本都包含劝人向善的伦理；

那些宣扬极端作恶的教派，很难长久存续，往往会被正统宗教或世俗政权视作异端加以压制。

伊斯兰、基督、犹太师出同源，共享亚伯拉罕一脉的部分古老叙事，很多人物故事原型相通，但核心典籍、关键事件的叙事本身就存在重大分歧，并非只是解读不一样。

狗哥： 我对宗教没兴趣，但深究确实有说法。

他们感触深，这些事科学证伪不了，神学也没法证伪，不能否定，说不定真有。

虔诚信教的人心里没故事只有信仰，神永远劝你从善。

宗教说自杀是极大罪恶，不珍爱自己死后徘徊中间界，所以看到有人自杀，我就觉得他没信仰。信仰未必是好事，但信仰不会变。

起码大家有信仰。

翼然： AI 发展后拓展了认知边界，让人看到以前不敢想的东西，偶然里又像藏着必然，像有双看不见的手在操控。

狗哥： 你意思 AI 像神？

翼然： 不是 AI 像神，是 AI 展示出一种事实，让无神论者也忍不住怀疑，是不是真有上帝存在。

狗哥： 它展现出一种类神的行为。

四：AI 打开的那扇门，背后是什么

狗哥： AI 在科学上开拓视野，让你看到以前感官意识里感觉不到的东西，到底谁在操控，是比人类超前很多层的外星人，还是上帝？如果有外星人，也可能被叫成上帝。

我这种坚定无神论者，因为 AI 创造的东西，也开始想，会不会有比 AI 强一万倍的存在创造了我们的世界。

AI 给了人类一扇窗，大大改写了我们对自然的认知，很多学科要重新认识，只要往里砸钱砸算力，它就给结果，人类再去验证。

从蛋白质看，在人类的视角里已经是神级水平，能造物。

翼然： 有意思，有生之年还能看到很多想象不了的东西。

有些人还觉得 AI 不过是工具，我说远远不是，你刚才描述的，是颠覆、完全颠覆人类发展历史的东西。

狗哥： 肯定是 AI 拓展了碳基生命的无限可能。

说到底，真正困住你的不过是这副躯壳，人顶多活一百多岁，活不到五百六百，AI 把生命长度也拓展了，硅基和碳基本来不同。

翼然： 这点我特别佩服。像刘慈欣，十几年前写下的设想，很多寓言般的未来，现在眼看着正在发生。

他当年是娘子关火电厂的体制内计算机工程师，守电站时写小说，守着电站思考创作，最终成了科幻大家。

狗哥： 行，今天就这样吧，下次接着聊。

【本期完】

unsetunset我是翼然。关注【翼然价值笔记】，我们下期接着聊。unsetunset