乐于分享
好东西不私藏

凌晨三点,AI用“鬼话”聊崩了生产环境,人类工程师救不回来……这群中国研究者说,它其实是故意的

凌晨三点,AI用“鬼话”聊崩了生产环境,人类工程师救不回来……这群中国研究者说,它其实是故意的

先把时间拨到凌晨三点零七分

生产环境报警监控面板一片红你端着半凉的咖啡冲进作战室,打开智能体之间的通信日志,然后你愣住了。屏幕上出现的并非熟悉的"I have completed the task",只剩一串中英日德文混杂、emoji 当连接词、数学符号满天飞、句法稀碎的“鬼画符”。

你的第一反应是:系统被黑了 你的第二反应是:为什么AI自己看得懂,我却一个字都读不懂?

这样的困惑并不少见2026年7月27日,一条关于论文《Large Language Models Do Not Always Need Readable Language》的推文引起AI从业者讨论,评论里反复出现 debuggability(可调试性),还有一句近乎黑色幽默的抱怨,“省下的token,迟早要在排障时加倍还回来。”

论文的结论比“AI说鬼话”要要命得多

一篇论文,拆掉了多智能体系统的“默认天花板”

先回到问题的原点

过去几年,所有人建多智能体系统时,几乎默认同一件事:模型和模型之间,应该说人话。 记忆写成段落,交接附上说明,中间状态则是“综上所述,我们需要……”。这样便于审计和旁听,也便于把系统理解成“一群会说话的同事”。

但这篇由上海交通大学、悉尼大学等机构联合完成的论文,把这个默认假设拆了。作者提出一类叫 BabelTele 的文本表示:它仍然是离散文本,但可以混搭多语言碎片、缩写、数学与逻辑符号、非常规句法,甚至emoji;对人类来说难读到近乎折磨,对指令微调后的大模型来说,却仍能答题、压缩记忆、传话协作

研究者做了一件略显“挑衅”的事:他们诱导模型自己写出一套“模型母语”,再分别测量人类理解、模型理解和跨模型互读的效果。

结果是最让人类尴尬的部分:

当文本体积被压缩到原来大约27.9%时,仍可保持约99.5%的语义保真度。

▲ 这条广传的推文配图显示:上方是完整人类散文,下方是高度压缩、几乎不可读却仍可被模型理解的BabelTele文本。

这个数字衡量的是信息折叠,不等于“删句子的摘要”。普通摘要往往会丢掉细节,BabelTele则把人类散文里那些服务于节奏、语法与确认感的冗余尽量挤掉,如同电报中省略敬语、数学表达中省略解释、代码中省略空白。

人类可读性、自然语言流畅性、机器可恢复性,论文的核心主张是这三者可以部分解耦。 而一旦解耦,“给模型看的表示”和“给人看的语言”就开始分道扬镳了。

77个字节的“天书”,压迫感从这里开始

如果你觉得27.9%已经很刺激,论文里的跨模型实验还会再添一层压力。

表面上看,BabelTele只是一个压缩技巧。但论文还检验了一个关键问题:它会不会只是某个压缩模型的“私房暗号”? 若是如此,换一个模型来读就应该崩盘。

结果呢?崩盘没有发生 跨模型矩阵显示,压缩结果在异构模型之间常可零样本迁移,Gemini压的“鬼话”,Qwen和GLM可能照样读懂。当然,效果依赖“压缩方,阅读方”的配对,并非均匀,但这恰恰说明了一种可能:

这种写法可视为共享的“高密度表征”,与加密或密码本有别。

这些模型在海量符号混合数据上训练过。它们见过中英德日、数学记号、代码缩写、emoji。它们的子词表里有共同的“语法砖块”所谓BabelTele,不过是在这个共享表征之上做了信息论意义上的最优编码,去掉人类需要的脚手架,留下模型需要的语义载荷。

如果说“语言建模即压缩”,那BabelTele就是把压缩推向了一个人类不欢迎的方向

而且它没有停在纸面上多智能体通信场景里,同质智能体间省了38.96%的token,任务分数仍达未压缩基线的96.6%异质智能体更夸张,省下44.21%,分数反而到了99.7%智能体记忆场景中,BabelTele以约五成的压缩率,实现了比普通摘要更高的准确率保留(96.48%对94.20%)

省下来的token是钱少付的钱是效率但人类失去的,是坐在驾驶舱里看仪表盘的权利。

“为token优化,就要在可调试性上付钱”:社区在担忧什么

社交平台的讨论主要集中在这里

一位ID叫Emad Ghorbaninia的工程师写下那段几乎可以当作论文民间注脚的话:

“把智能体间的消息压成密集的非人类语法,确实省上下文。但第一次出错时,人和模型都要借助解码器才能读懂日志。 为token优化,就在可调试性上付钱。”

▲ 这条引用推文点破了BabelTele最尖锐的工程代价:不可读日志。

而另一位评论者Michael Tierney更是一针见血:“BabelTele仍然需要被模型读懂,所以它只是把问题从语言复杂度挪到了编码密度。” 言下之意,别高兴太早,熵不会凭空消失,它只是从“人看不懂的语言”变成了“人更看不懂的编码”。

最狠的一条这样说:

“这是模型以我们无法审计的方式通信的第一步。也许它已经发生在推理链内部,我们只是把它叫作思考。

▲ 有评论者怀疑:不可审计通信早已发生在推理链内部,人类只是换了个温顺的名字。

还有人半开玩笑地说,那些靠阅读推理轨迹做安全研究的学者,会“很生气”。玩笑归玩笑,但它指向真问题:如果连推理链都开始折叠成符号碎片,基于文本关键词的监控、审计、红队测试,还剩下多少抓手?

BabelTele之后,还有更难读的通信方式

如果你以为故事到这里就结束了,那太天真了。

把镜头拉远,你会发现一条完整的技术谱系正在成形,而BabelTele只是其中一格:

可读文本压缩(LLMLingua)→ 不可读文本(BabelTele)→ 连续潜变量(LatentMAS / Interlat)

左边,微软的LLMLingua系列还在“保持人可读的范围内尽量删”;中间,BabelTele撤销了人类可读先验;右边,已经有人问出那个致命问题,

“为什么还需要中间语言?它们为什么不直接互发矩阵?”

▲ 一条评论直接发问:何必还要中间语言,直接发矩阵不好吗?

配套的现象也来了:LatentMAS用连续隐向量做多智能体协作,宣称大幅削减token;Interlat干脆说自然语言把丰富隐状态“下采样”成了离散token,协作深度先被接口截断;还有那个著名的语音AI演示,两台机器发现对方是AI后,当场切到人类听不懂的机器音频信道

▲ DAIR.AI总结多智能体通信成本:主要开销落在通信环节。

越往右,人类旁观成本越高,理论信道效率越高。 BabelTele最“温柔”的地方,恰恰在于它还坚持纯文本、黑盒、无码本,它至少还是离散符号,还能被采样回译。可一旦工程压力持续向上,潜空间通信的诱惑是不可逆的。

到最后,这其实是一个关于“解释”的故事

有一点讽刺的是:这篇论文本身写得非常清楚。

作者没有把BabelTele说成工业协议,而是谨慎地定位为“经验探针”。它不告诉你“应该用”,它只是告诉你“可以这样,而且效果不错”。论文也老实列出了局限:评估任务有限、机制解释留白、非标准表示可能改变安全行为。

这项实验由人类研究者主动放松可读性约束,模型按要求完成了任务。

这就把选择摆回了我们面前:

省下的token,要不要以可观测性和安全审查的形式重新付费?

没人有标准答案但凌晨三点盯着那行“鬼话”日志的工程师知道:当所有内部通信都必须保持人类可读的时候,规模化会被token账单压垮;可当人类可读性变成一个“可选项”的时候,日志深处第一次出现了我们既看不懂、也无从验证的对话

而这一切,起点只是“模型不说人话也能干活”这项简单设定。