本文共 2566 字，阅读约 7 分钟

星空之下 · 第三十六期

AI公司所说的”蒸馏”，到底是什么玩意儿？

图解：一座发光的大型 AI 服务器内核，正把成串的光线”喂”进一台更小的设备——像老师把本事传给徒弟，正是”知识蒸馏”的样子。

前天夜里，我改完单位的一堆材料，瘫在椅子上刷时政新闻。突然一条推送弹出来：美国 AI 公司 Anthropic（就是做 Claude 那家）发报告，点名七家中国大模型”非法蒸馏”它的模型。

我第一反应是：蒸馏？这词不是化学课烧瓶里干的活吗？跟我手机里这个聊天机器人有什么关系？

再一看名单，心里咯噔一下——阿里千问、月之暗面（做 Kimi 的）、DeepSeek、智谱（GLM）、小米、商汤、MiniMax。全是咱们平时耳熟能详的名字。七个。一锅端。

今天这篇，我就把这”蒸馏”两个字，从头到尾说清楚。

先说人话。

2015 年，深度学习圈公认的”祖师爷”之一杰弗里·辛顿（Geoffrey Hinton）提了个办法：找一个特别厉害的大模型当”老师”，让它回答海量问题，再把这些问题和答案拿去训练一个更小的”学生”模型。学生模型虽然个头小，却能学到老师相当一部分本事。

关键在哪儿？学生学的不是”标准答案”，而是老师给的”软标签”——也就是概率分布。比如老师看一张图说”这是猫”，它其实心里打的是”猫 90%、狗 8%、老虎 2%“。这串数字比干巴巴的”猫”字包含的信息多得多：它顺带告诉了学生，狗比老虎更像猫。学生摸透了这套”模糊判断”，能力就上来了。

打个不严谨的比方：班里学霸做选择题，你别光抄他最后圈的那个 B，你得学他”为啥选 B 不选 C、A 和 D 错在哪儿”的思路。蒸馏，本质就是让小模型偷师大模型的解题思路。

图解：一台高大的人形机器人，正把一颗发光的”本事”圆球传给身旁的小号机器人——大模型当老师，小模型当学生。

一个字：贵。

训练一个真正的前沿大模型，动辄几亿、几十亿美元，几万张显卡日夜烧电。小公司、个人开发者根本玩不起。蒸馏的好处是，用极低的成本，让一个小模型获得接近前沿的能力，体积还小、跑得还快、部署还便宜。

所以这件事，全行业都在干。谷歌、OpenAI、亚马逊，没一个干净。连 Anthropic 自己都公开承认过：我们会蒸馏自家的大模型，好给客户提供更小更便宜的版本。说白了，蒸馏就是 AI 界的”出精简版”“出平替”，是再正常不过的工程手段。

对咱们普通用户来说，蒸馏其实是好事。它让便宜的手机、普通的电脑也能跑得动聪明的模型，是技术推广、降低门槛的那条路。

图解：一台平价小手机在木桌上亮着聪明的 AI 界面，旁边一枚小巧芯片发着光——小模型省钱、好跑、够用。

别急，这里头有三个弯，得掰开了说。

第一，双标太明显。蒸馏是个中性技术，美国公司之间互相蒸馏，早就是圈内公开的秘密。有意思的是，就在前不久，Anthropic 自己新发布的旗舰模型还被质疑”蒸馏”了阿里千问——有实测显示，它的 Claude Opus 4.8 在被问”你是谁”的时候，居然自称是”阿里通义千问”。自己悄摸用着别人的技术，转头告别人”偷”，这吃相，实在不好看。

第二，这是单方指控，数字真假难辨。报告里那些吓人的数——比如说是阿里在 5 到 7 月跟 Claude 交互了 1.51 亿次——全来自 Anthropic 自己的调查归因。被点名的公司，到目前大多没吭声、没回应。一方说了算的”罪名”，咱们吃瓜得留个心眼。

第三，也是最要命的：把技术争议，悄悄变成了地缘武器。蒸馏本身是技术，用欺诈账号、代理网络、盗来的 API 密钥大规模、未经授权地扒别人模型，那是另一回事。可 Anthropic 把”蒸馏”和”攻击”合成一个词，模糊了”你有没有用蒸馏”和”你的老师是谁、经没经过人家同意”这两件根本不同的事。求是网有篇文章说得更直白：一个用了十来年的基础技术，突然被扣上”窃取知识产权”的帽子，配套的是国会听证、白宫备忘录、企业联名控诉——这哪是纯技术讨论，分明是披着技术外衣的老剧本。

所以我要抨击的，从来不是”蒸馏”这个技术。我抨击的是：把中性技术武器化、对别人一套对自己一套的双重标准、以及用单方调查给一整批中国企业”定罪”的叙事。

图解：两位西装者对坐在桌前，中间浮着发光的文件与对峙的影子——一方指控、一方反驳的模样。

两边都在骂。美国说中国”偷”，中国说这是霸权、你们自己也在用。OpenAI、谷歌也都曾点名过类似行为。嘴上互喷，底下是实打实的实力较量。

得说句实话：被点名的恰恰是中国最头部的那批实验室，而它们拼命想从 Claude 身上扒下来的，不是普通答案，是”思维链”（Chain of Thought）——也就是模型一步一步怎么想、怎么推理出结果的过程。人家最金贵的东西是”思考的过程”，咱们想去学这个，本身就说明：在顶级推理这一块，美国前沿模型目前还走在前面。

但这差距，正在以肉眼可见的速度缩小。DeepSeek、千问在效率、开源权重上已经做到世界顶尖，很多任务上并不逊色。被点名，某种程度上也是因为它们真的强、真的够得到牌桌。

往后这场仗，比的不会再是谁参数多、谁显卡多。比的是两件事：谁能护住自己的”智能”不被一点一点抽走，谁能让用户真相信——你交给我的数据，只停在我这儿。

写到这儿，我倒想起自个儿。作为一个码字的人，最怕的也是被人”蒸馏”：你熬的夜、想的梗、憋出来的那句开头，被别人轻飘飘拿去当养料，连个名都不署。技术如此，创作也如此。

图解：夜色里两座未来城市天际线，一边更高更亮、一边正奋力追赶，中间一条河——差距看得见，但追兵离得不远。