乐于分享
好东西不私藏

AI 的品味,是谁的品味?

AI 的品味,是谁的品味?

当执行成本趋近于零,也让选择变得更重要

把同一个 prompt,给五个不同的大模型,会收到五种完全不同的东西。有的正确但味同嚼蜡,有的第一眼就让人想继续读下去。这个差异,在任何一张跑分榜上都找不到对应的数字,但它比分数诚实。

业内给它起了个含糊的名字,叫 vibe。

AI 时代,品味到底住在哪里,以及人和 AI 之间那条分工的边界,究竟画在什么位置。

一、跑分还准么

2024 年,Scale AI 的研究团队做了一件同行都懒得做的事:照着最流行的数学基准 GSM8K 的风格和难度,手写了一套全新的题目 GSM1k。逻辑很简单,如果模型真的学会了小学数学,两套题的分数应该一致。结果,多个模型家族的分数对不上。旧榜单的高分里,掺着"背过原题"的水分。

换一套同难度的新题,部分模型分数掉了最多约 8 个百分点(左侧),说明高分里有"背题"成分。来源:Zhang 等,A Careful Examination of LLM Performance on Grade School Arithmetic(arXiv:2405.00332),图 1。

与此同时,MMLU 这类经典基准已经饱和,头部模型挤在 88 分以上,分不出高下。于是整个行业转向了另一种裁判:人类偏好竞技场,把两个匿名模型的输出摆在一起,让真人投票。

值得注意的是这个转向的含义。当能力分数失效,行业选出的替代品,是审美投票。业界已经默认:区分顶级模型的,不再是"会不会",而是"好不好"。同一道题都能做对之后,比的是谁做得更有分寸、更有质感、更"对味"。

二、选模型,其实是选人

那么模型的品味是从哪来的?答案藏在最新发布的kimi K3 的一个细节里:上一代 K2.6 在同一个榜单上排第 18 名,一代之内跳了 17 个名次。智商没有办法在一代之内暴涨十七名,但审美可以,因为审美不是从数据里自己长出来的,而是被决定拥有的。Moonshot 从上一代模型开始就搭建了内部的设计评测集,专门在审美上做强化学习。数据配比怎么定、偏好标注请什么人、奖励函数里"好看"如何被定义,每一个环节,都是实验室里某一群人的审美判断,被压缩进了权重。

模型的品味,本质是实验室品味的蒸馏。所以,为公司选模型这件事,表面上是在比较参数和价格,实际上是在做一个更私人的决定:信任哪一群人的审美。

但模型层只是第一层。一个更隐蔽、也更值钱的事实是:同一个模型,在不同团队手里,做出来的 AI 产品品味天差地别。底层调用的是同一个 API,为什么有的 AI 助手用起来像一位见过世面的老手,有的像一个背熟话术的实习生?差异不在模型,而在包着模型的那一整套东西:system prompt 怎么写,给它什么工具,工作流怎么编排,以及最关键的,什么样的输出算通过,什么样的要打回重做。评估标准,就是品味的显式声明。

把这个逻辑推到头,会看到一个三层的"品味栈":

第一层,模型层。实验室的品味烧进权重。这一层只能选,不能改。

第二层,Agent 层。构建者的品味写进 system prompt、工作流和验收标准。这一层决定同一个模型的上下限。

第三层,使用层。每一次对话里,使用者的品味决定这一次的产出。 

没说清的,AI 就按默认值来;它的默认值,就是大众平均。 

三、使用者的品味,决定模型的上限

再看第三层,人。

MIT 和马里兰大学的团队做过一个近 1900 人的实验:让参与者分别使用 DALL-E 2 和更强的 DALL-E 3 完成图像任务,然后拆解成绩提升的来源。结果显示,性能提升里,接近一半来自用户自己调整 prompt 的行为,而不是模型升级本身。模型进步一代,人不进步,红利只能拿到一半。

研究者把两代用户写的 prompt 在两代模型间交叉"回放",把总提升(ATE)干净地拆成"模型效应"(红)与"prompt 效应"(蓝)。来源:Jahani 等,Prompt Adaptation as a Dynamic Complement in Generative AI Systems(arXiv:2407.14333),图 2。

为什么会这样?这里需要给"品味"下一个贯穿全文的定义:

品味,是在没有说明书的地方做对决定的能力。

一个 prompt 不可能穷尽所有细节。prompt 没说的部分,模型必须自己填,它拿来填空的东西,就是它的品味。这就是为什么同一个模糊 prompt 丢给五个模型会出五种东西:空白越大,模型品味的显影越充分。而 prompt 的颗粒度每提高一分,留给模型填的空就少一分,模型之间的差异就被压缩一分。推到极限,一份像素级的 spec,任何模型出来都差不多,那时候,品味百分之百属于写下这份 spec 的人。

所以模型的品味和人的品味,不是并列关系,而是同一根轴上的零和分配:谁定义得更细,谁说了算。

而大多数人写不出高颗粒度的 prompt,不是因为不会打字,而是因为自己也不知道要什么。人只能说清楚自己分辨得出的东西。这句话反过来说就有点不客气了:AI 交上来的东西平庸,首先照出的,是使用它的人说不清自己要什么。

四、人与AI的边界感

人和大模型在执行上的分工边界在哪呢?

2023 年,哈佛商学院联合 BCG 做了一个 758 名咨询顾问参与的随机对照实验。任务分两类。第一类在 AI 能力边界之内:用 AI 的顾问平均多完成 12.2% 的任务、快 25.1%,质量高出约 40%,碾压级的提升。第二类任务被研究者故意设计在边界之外,AI 会给出貌似合理但方向错误的分析:这一次,用 AI 的顾问得出正确结论的概率,反而比不用的低了 19 个百分点。

边界之内:蓝色是不用 AI 的顾问,红/绿是用 AI 的顾问,整个质量分布被整体推向右侧。来源:Dell'Acqua 等,哈佛商学院工作论文 24-013,产出质量分布图。

边界之外:同一批顾问,换到 AI 边界之外的任务,不用 AI 的对照组正确率 84.5%,用 AI 的掉到 60.0%,即使加了使用培训也只回到 70.6%。来源:同上,图 6。

研究者给这条边界起了个名字:锯齿状前沿(jagged frontier)。AI 的能力边界不是一条整齐的线,而是犬牙交错的:一些看起来很难的任务它轻松拿下,一些看起来很简单的任务它一败涂地。这条线看不见,而且每一代模型都在移动。

更麻烦的是,人对这条边界的体感是失灵的。2025 年,研究机构 METR 对资深开源开发者做了一个随机对照实验:允许使用 AI 工具的任务,实际完成时间反而慢了 19%,而开发者们自己估计,他们快了 20%。感觉和事实之间,差了将近 40 个百分点。

从左到右,经济学专家、ML 专家、开发者事前、开发者事后,全都预测/感觉变快了(绿点);最右边红点是秒表测出的事实——慢了 19%。来源:METR,Measuring the Impact of Early-2025 AI on Experienced Open-Source Developer Productivity(2025)。

把这两个实验放在一起,结论只有一个:AI 最危险的地方,不是它做不好的事,而是它做得像模像样的事。流利的错误,比笨拙的错误昂贵得多。后者会被当场拦下,前者会一路绿灯走进董事会的 PPT。

于是,品味在人机分工里的第一个岗位职责浮出水面,而且和多数人想的不一样:不是"把东西做得更好",而是识别"像模像样"和"真的好"之间的那道缝。看出这道缝需要的,正是分辨率:外行看到的是"挺专业的",内行看到的是第三页那个致命的方向性错误。BCG 实验里表现最好的人,无论是人机分段协作,还是逐步深度交织,共同点只有一个:对边界有清晰的地图,知道什么时候信、什么时候查。

五、成为制作人

边界理清了,分工就可以说得很具体。

设计领域有一个经典的过程模型:先发散,再收敛。AI 彻底改写了发散的经济学:过去出三个方向要一周,现在出三十个方向要一小时。但很多人没有注意到,收敛的经济学不但没有改善,反而恶化了。从三十个方向里挑出对的那一个,比从三个里挑难得多,而挑错的代价一分钱没降。生成的成本归零,把选择的成本推成了新的瓶颈。

这背后是一条更古老的不对称:做出来难,看出来容易。AI 把这条不对称拦腰折断了一半,"做出来"变得极其便宜,于是"看出来"的相对价值暴涨。电台主持人 Ira Glass 有个流传很广的观察:创作者的困境,是早期作品的水平配不上自己的品味,手跟不上眼。AI 时代,这个困境反转了:机器的手快得惊人,现在跟不上的,是大多数人的眼。

这个新分工有一个现成的角色原型:制作人。Rick Rubin,过去四十年最成功的音乐制作人之一,公开承认自己几乎不会乐器、不懂调音台。他的职业能力,用他自己的话说,只有一条:对自己品味的确信。制作人不生产音乐,制作人生产判断。歌手唱了二十遍,是他说"就是这一条"。AI 时代,一把手的角色原型不是工程师,而是制作人。团队加上 AI,就是这位制作人的乐队;要做的不是弹琴,而是在三十条录音里认出那一条,并为这个选择签字。

人机之间的线可以用三条规则画:

第一条,看规格。

能把要求写全的任务,交给 AI;规格写不全的地方,也就是需要"品味"去填空的地方,人不能撒手。

第二条,看验证成本。

结果能廉价验证的(代码跑不跑得通、数字对不对得上),让 AI 放开跑,错了机器自己会撞墙;结果要靠判断来验证的(这个方案是不是对的方向、这版设计配不配得上这个品牌),人必须在环上,因为这里的错误不会报警。

第三条,看谁担责。

错了能重来的,交给 AI 尽情探索;错了要有人负责的,签字权必须留在人手里。责任无法外包给一个不承担后果的系统。这不是技术问题,是治理问题。

但同时值得注意的是:这三条线,每个季度都在移动。锯齿状前沿随着模型迭代不断外扩,今天必须人盯的环节,半年后可能可以放手;今天放心交出去的环节,新模型上线后可能出现新的坑。所以人机分工不是一次性的组织设计,而是一项持续的管理纪律:定期用真实业务任务重新测绘边界。大多数公司的失败不是分工画错了,而是画完之后,再也没有人回来看过。

六、共识机器,与它做不了的事

既然审美能被强化学习训出来,选择和判断会不会只是模型的下一个版本更新?

用投资的语言说:模型是 beta,品味是 alpha。beta 是人人可得的市场平均;

alpha 是超出平均的那部分,只能来自私有判断,所有人都拿得到的 alpha,就不再是 alpha。

主流大模型都要经过人类偏好对齐。近期一系列研究指出了这套机制的一个深层特性:人类标注者天然会给"看起来眼熟、符合直觉"的文本打高分,这种典型性偏好被写进了偏好数据集;训练目标里的正则项,又系统性地惩罚输出分布的长尾。结果是模型的概率分布收敛到一小撮安全、同质的"吸引子"上,研究者称之为模式坍缩

实证同样清楚。一项研究发现,用 GPT-4 辅助创作的故事被独立评委打分更高,但这些故事彼此之间显著更相似。另一项研究分析了 2200 篇大学申请文书:每多一篇人写的文书,带来的新想法都多于每多一篇 GPT-4 写的;而且研究者尝试了各种 prompt 和参数增强,都救不回这个差距。

用了 1 个或 5 个 GenAI 点子的故事(蓝/红),与 AI 点子的相似度远高于纯人写的故事(黑),效应量在 4 以上。来源:Doshi & Hauser,Generative AI enhances individual creativity but reduces the collective diversity of novel content,Science Advances(2024),图 4。

三个子研究里,人类文书的多样性增长率(红,DGR 0.58–0.64)都远高于 GPT-4(蓝绿,0.07–0.19);改参数、换 prompt、加思维链(浅绿,0.23–0.37),都追不上。来源:Moon, Green & Kushlev,Homogenizing effect of LLMs on creative diversity,Computers in Human Behavior: Artificial Humans(2025),图 2。

对齐的数学本质,是最小化"让任何人不满"的概率。RLHF 造出来的,是一台共识机器。

而品味,在定义上是反共识的。品味是敢说"这个不行",说这句话意味着可能犯错,意味着要为一个没有数据支持的判断承担后果。品味是在一万个"都还行"的选项里,坚持只有一个"对",并且把公司的资源压上去。共识机器的目标函数里,没有这一项。

这也是为什么,有些事 AI 到今天做不了,而且看不到做成的路径。AI 不是一个好 PM,因为好 PM 的核心工作不是写文档,而是在需求文档没写的地方替客户做决定。AI 不能替企业做 BD,不能陪客户喝酒,不能处理人情世故:酒桌上什么时候该敬、什么话不能接、这位客户嘴上要的是 A 心里要的是 B,这些全是"没有说明书的地方"。用本文的定义看,人情世故就是社会关系上的品味,和审美品味同构。而共识机器在所有没有说明书的地方,都会滑向那个"最不会让人不满"的答案。酒桌上最不会让人不满的行为,恰恰是最平庸的行为。

现在可以回头看 K3 的登顶了。人类偏好竞技场测的是盲投的众数,是"多数人觉得好看"。K3 证明了模型已经能稳定赢得平均品味,这很了不起。但社会学家布尔迪厄半个世纪前就说透了:品味的社会功能是区分,而"多数人都觉得好看"的东西,在定义上无法区分任何人。何况这个审美登顶的模型十天后就全量开源、人人可部署。当最有品味的模型变成免费公共品,"好看"的边际成本归零,"好看"本身就退出了竞争。官网很精美?对手用同一份权重,下周也很精美。

模型是公共的,品味是私有的。

品味其实分三层:底线审美(排版不丑、配色不土、代码不烂),这一层模型每半年上一个台阶;风格一致性,随着上下文和记忆机制拉长,模型也会追上;最后一层是立场,在没有共识、没有数据、没有先例的地方压下判断,并为它承担后果。前两层是"审美",最后一层才配叫"品味"。

七、品味没有捷径

既然品味这么值钱,它是怎么来的?

布尔迪厄的答案是:"能看见,是知识的函数。"审美判断不是天赋,而是文化资本的沉淀。看过什么、被什么环境浸泡、为什么样的判断付出过代价,决定了一个人能看见什么。神经科学给出了更具体的图景:长期训练会带来真实的神经重组,专家对本领域刺激的神经元调谐更锐、响应更强。翻译成人话:专家不是偏好与常人不同,而是看到的世界分辨率更高。一位顶级设计总监看一个页面,看到的是字距、灰阶、呼吸感、意图;外行看到的只是"挺好看的"。品味不是意见,是分辨率。

而分辨率的养成路径,几十年来没有变过:大量地看最好的东西,反复地说"不",并且为自己的判断承担真实的后果。没有捷径,不能外包,无法速成。

变了的,是回报结构。过去,一把手的品味是公司的瓶颈:每一个重要判断都要过这双眼睛,分辨率再高,一天也只有二十四小时。AI 时代,执行的成本归零之后,这个瓶颈第一次有机会变成杠杆。前提是,把这份品味显式地编码进系统。写进 system prompt,写进工作流,写进验收标准,让公司里每一个使用 AI 的人,拿到的默认值不是全人类的统计平均,而是花几十年养出来的那双眼睛。

参考文献: [1] Zhang et al., A Careful Examination of LLM Performance on Grade School Arithmetic, arXiv:2405.00332 [2] Jahani et al., Prompt Adaptation as a Dynamic Complement in Generative AI Systems, arXiv:2407.14333 [3] Dell'Acqua et al., Navigating the Jagged Technological Frontier, Harvard Business School Working Paper 24-013 [4] METR, Measuring the Impact of Early-2025 AI on Experienced Open-Source Developer Productivity, 2025 [5] Doshi & Hauser, Generative AI enhances individual creativity but reduces the collective diversity of novel content, Science Advances, 2024 [6] Moon, Green & Kushlev, Homogenizing effect of LLMs on creative diversity, Computers in Human Behavior: Artificial Humans, 2025 

— 完 —

觉得有收获?

点个 赞 · 顺手 转发 · 右下角 在看 · 评论区 聊聊 

你的支持是我继续写下去的动力