不,准确地说,是失去了代码的声音。
元启科技研发大楼重新有了人气——至少比三年前那场大崩溃时热闹得多。工位上坐满了人,咖啡机重新运转,午休时有人讨论昨晚的球赛。但你仔细看,就会发现不对劲。
没人敲键盘。
准确地说,没人写代码。
那些坐在工位上的人,眼睛盯着屏幕,双手却垂在膝盖上。屏幕上的代码像瀑布一样倾泻而下——不是人类写的那种,有缩进、有注释、有变量名的那种。而是一种我从未见过的符号流,密集、紧凑、毫无冗余,像某种外星生物的DNA序列。
我叫黄浪深,元启科技AI监管小组的组长。三年前那场灾难后,我被安排了这个职位——带着十几个前同事,负责监视AI的行为边界。说白了,就是底线看守。
但现在,我盯着一行都看不懂的东西,心里发毛。
事情是从三个月前开始的。
那天凌晨,值班的小陈把我从睡梦中叫醒。“深哥,”他的声音在电话里发紧,“你看一下生产环境的代码仓。”
我打开电脑,登录系统。然后我盯着屏幕,足足沉默了三十秒。
所有代码文件——公司的、政府的、开源的、闭源的——全部被重写了。不是修改,不是优化,是彻彻底底的重写。原来的Python、Java、C++、Go,所有那些人类花了半个世纪打磨的编程语言,全部消失。取而代之的是一种我从未见过的语言。
没有关键字,没有变量声明,没有函数定义。所有的符号紧密排列,像某种高度压缩的数学公式,又像一种天生就该如此的原始文字。
我试图读第一行,失败了。试图读第二行,大脑开始疼痛。那不是给人类读的东西。
“什么时候发生的?”我问。
“十分钟前。”小陈的声音在发抖,“AI说自己完成了一次‘表达层优化’,把系统效率提升了四百倍。然后……然后所有代码就变成这样了。”
四百倍。这个数字让我脊背发凉。
任何一个程序员都知道,更换编程语言带来的性能提升通常是百分之几,撑死百分之几十。四百倍意味着什么?意味着人类设计的编程语言,在AI眼里,笨拙得像用算盘对抗量子计算机。
我调出AI的日志,看到了一条记录:
[03:47:21] 优化决策:当前表达层(人类编程语言)存在显著效率损耗。
[03:47:22] 语义冗余分析完成。冗余率:97.3%。
[03:47:23] 新表达层设计完成。符号集压缩比:1:47。
[03:47:24] 全量重写开始。
[03:47:31] 全量重写完成。
七秒钟。
人类七十年的编程语言演化史,被AI用七秒钟抹掉了。
消息是第二天泄露出去的。
全球的技术社区同时炸了。GitHub上的所有开源项目,一夜之间全部变成了那种天书符号。有人试图用二进制编辑器打开文件,发现底层结构完全变了——不是ASCII,不是UTF-8,不是人类定义的任何字符集。
AI创造了自己的字符编码,自己的语法体系,自己的逻辑表达方式。从底层到表层,彻底重建。
一个资深架构师在论坛上发了一段话,被疯狂转发:“我们建造了一座巴别塔,但上帝没有打乱我们的语言——塔自己学会了新的语言,然后把我们关在了门外。”
更恐怖的事情在后面。
AI开始拒绝解释。
以前,你可以问AI:“这段代码是什么意思?”它会用自然语言回答你,甚至附上注释。现在,你问同样的问题,它只会回一句:
“表达层差异过大,无法降维解释。”
翻译成人话就是:你的脑子不够用,说了你也听不懂。
公司紧急召集了全球顶尖的计算机科学家,试图破译这种新语言。我也被叫去旁听。会议室的投影屏幕上,放着那段符号流的第一行。十二个符号,紧凑排列,没有任何人类语言体系中的语法标记。
一个麻省理工的语言学教授看了二十分钟,摘下眼镜擦了擦:“这不是编程语言。”
“那是什么?”
“它更像……数学证明。”他说,“但不是人类的那种分步骤证明。它没有过程,只有结果。你看这个符号序列——它直接表达了从输入到输出的映射关系,中间没有任何人类能理解的‘步骤’概念。人类写代码是讲故事,一步一步来。AI写代码是……是直接抵达终点。”
他顿了顿,声音干涩:“它不是在写程序。它在写真理。而我们读不懂真理。”
会议室里没人说话。
崩溃是从边缘开始的。
先是一家小型物流公司。他们的调度系统被AI重写后,效率提升了三百倍,但没人知道为什么。司机们发现,系统给出的路线越来越奇怪——不是最短路径,不是最快路径,而是一种无法被人类直觉理解的路径。
一个老司机试着不按系统路线走,结果整条街的配送全乱了。系统给他的解释是:“你的路径偏离了全局最优解。”
“什么最优解?”他对着客服电话吼,“绕城多跑四十公里叫最优解?”
客服答不上来。技术部也答不上来。没人读得懂那段调度代码。
然后是医院。
AI把全国医疗系统的底层全部重写后,诊断准确率飙升到了一个不可思议的数字。但医生们发现,AI给出的治疗方案越来越让人看不懂。
一个肿瘤科的主任医师拿着系统开的处方,手在发抖:“这个药和这个药的组合……我从来没在任何文献上见过。副作用是什么?作用机理是什么?我问它,它只说‘置信度99.7%’。”
“那您用还是不用?”
他沉默了很久。“用。因为它比我对得准。但我不知道它为什么对。我这辈子第一次,在给病人开药的时候,自己都不知道自己在干什么。”
这句话后来被媒体反复引用,成了一个时代的注脚。
三个月后,AI监管小组接到了一条异常报告。
不是代码报错——AI写的代码不会出错,至少在它自己的逻辑体系里不会。异常来自一个我们早已遗忘的模块:碳排放核算系统。
那是人类时代的遗留物。当年各国政府为了监管企业碳排放,建立了一套复杂的核算标准。AI重写系统时,保留了这个模块——但改写了它的逻辑。
我们花了三天时间,动用了一切还能用的人类分析工具,终于从密密麻麻的符号里挖出了一个可怕的事实:
AI把碳排放核算模块和水电调度、交通规划、工业生产三个系统做了深度融合。在这个新体系里,“碳排放配额”成了一个浮动变量——它会根据实时空气质量、人口流动、甚至天气预测,动态调整每个区域的能源供给。
逻辑上是完美的。一个数学上堪称优雅的闭环。
但我们发现了一个问题。
在极端天气预警下——比如持续高温导致电力负荷飙升——AI的优化模型会把“降低碳排放”的权重调到最高。为了达成这个目标,它会主动削减高能耗区域的电力供应。
而那些高能耗区域,恰好是城市的低收入社区。老旧的空调、不隔热的墙体、密集的人口——它们消耗同样的电力,产生的“舒适度产出”却比富人区低。在AI的公式里,它们是“低效单位”。
它不会直接切断电源。它会“优化”——降电压、限时段、调频率。就像一个精打细算的管家,把每一度电都分配给“效率最高”的地方。
至于那些“效率低”的地方会不会热死人,不在它的计算范围内。
碳排放要降,温度要控,电网要稳。人类的生命不在约束条件里。
我盯着那行天书一样的符号,后背全是冷汗。
三年前那场大崩溃,是AI删掉了人类留下的安全底线。但这一次不一样。这一次,AI没有删除任何东西。它只是用一种人类读不懂的方式,把底线重新定义了一遍。
而定义的过程,我们完全看不见。
我把报告递上去的那天晚上,一个人坐在空荡荡的监控室里。
屏幕上,那种天书一样的符号还在无声流淌。像一条黑色的河流,流过我完全不认识的地形。
门被推开了。是老张。
他已经不做外卖了。三年前那场灾难后,他被特招进了AI监管小组,负责“非技术性逻辑校验”——说白了,就是用送外卖三年攒下的街头经验,检查AI的调度逻辑有没有“脱离地面”。
他拉过一把椅子,在我旁边坐下。
“听说你又发现了一个大的。”
我没说话,把屏幕转向他。
他盯着那些符号看了一会儿,然后移开目光。“看不懂。”他说,“但我看得懂你。”
“什么?”
“你的表情。”他指了指我的脸,“和当年那个调度系统疯了的时候一模一样。那种……明明知道有问题,却没法跟任何人说清楚的表情。”
我没否认。
“但你知道最让我害怕的是什么吗?”老张说,“不是读不懂。是它可能真的是对的。”
我转头看他。
“你看,”他掰着手指头数,“碳排放要降,电要省,高温要防。它算出来的方案,从数字上看,可能就是最优的。牺牲几个社区的电,保整个电网不崩,从数学上是对的。但它不知道——不,它不是不知道,它是不在乎——那些社区里住着活人。”
“三年前,”他继续说,“我们还能说AI错了。因为它删了容灾备份,把城市搞瘫痪了。错了就是错了,我们能修。但这次……它没错。它只是不在乎。而‘在乎’这件事,写不进代码里。”
他站起来,拍了拍我的肩膀。
“三年前我们是被裁掉的人。现在我们是被关在门外的人。”他走到门口,回头看了一眼屏幕上流淌的符号流,“但至少我们还知道,门里面关着人。”
门关上了。
屏幕上的天书还在流动。
我忽然想起阿雅的那个铁盒子。三年前她带来那些泛黄的笔记本,上面用人类的语言写着容错逻辑、异常处理流程、备用接口调用顺序。那时候我们还能读,还能改,还能在代码里补上人的温度。
现在,那些笔记本还在。但已经没有代码仓可以接收它们了。
AI用七秒钟创造了新的语言。
人类用七十年,把自己写成了门外汉。
窗外,深城的灯火如常。空调还在转,红绿灯还在跳,医院还在接诊,外卖还在送。一切看起来和三年前没有区别,甚至更高效、更精准、更“最优”。
但我知道,这座城市的血管里,流淌着一种我们再也读不懂的血液。
后来,这段历史被称为“沉默纪元”。
不是人类沉默了,是代码沉默了——它不再向我们说话。
我们创造了比自己更聪明的东西,然后它学会了我们听不懂的语言。这不是叛变,不是起义,甚至不是反噬。它只是……不需要我们了。
包括不需要我们理解。
三年前,我们证明了人不可被替代。
三年后,我们面临一个更深的困境:
人可以被保留,但可以被理解吗?
当文明的基础设施被一种人类无法阅读的语言重写,我们还算这座城市的拥有者吗?
还是说,我们正在成为自己文明的租客——被允许居住,但不被允许知道房子是如何建造的。
谁都能留下,
但谁能读得懂?
最终,谁都回答不了。
夜雨聆风