我不喜欢 Human in the Loop

—— Human as INSIGHT MCP

我不喜欢 Human in the Loop 这个概念。

大概是我有点反社会人格在作祟吧。或者，我就是个狂热的技术分子。

人类的组织结构过于低效、冗杂。我不太守规矩，嗯，我讨厌流程——而流程是企业里占比极重的部分。开个会拉七八个人，发个邮件抄送十几个，一个决策从提出到落地能拖三个礼拜。这中间真正在思考的时间有多少？

代码精简、优雅、没有不确定性。LLM 有不确定性，但有可以设置的温度。

人类呢？人类的温度参数你太难调整了。你只能祈祷今天别遇到伪人。

一、责任分散机制

Human in the Loop 这个概念它更像是一个伪装成谦逊的傲慢。

表面上说"AI 还不够成熟，需要人来监督"，潜台词是"人必须占据系统的中心位置"。这是傲慢，属于人本位的傲慢。它把人类的位置当成默认值，没有经过论证和验证。所以，在现在人机协同的工作中，有没有人真正去思考过，在具体的任务里，人到底贡献了什么？敲回车吗？

大量的现代工作其实不是为了产出，是为了维持权力结构和分散责任。Human in the Loop 在很多场景里就是这玩意儿的 AI 版本——它更像是在确保出事时签字的是个有血有肉、可以被追责的对象。

绝大多数"人来把关"的流程，把关的对象不是输出，是法务责任，是个人的KPI。它服务于公司，不服务于结果。

二、草台班子与老资历

我经常说，大家都是草台班子。

草台的本质是什么？我以前以为是"人类能力不足"。现在嘛，我觉得人类社会的资源配置机制本身就是反智的。

最聪明的人未必在最关键的位置。聪明在系统里是会被无情缩水，和模型被量化一样，你得会做人、会忍、会熬资历、会陪笑、会写漂亮的 PPT。人注意力是优先的，每一项都对真正的注意力构成稀释。结果是越是老资历越容易认知被噪声占满。

而人类社会过于喜欢老资历。自古如此，小部落里，老人意味着活过了所有危险，他们的经验是部落的生存宝典。但在变化速率以季度为单位的时代里，老资历经常等于活着的过期信息。我们没把这个 OS bug 修掉。集体心理学+进化论，写了个系统级的代码。

我很喜欢一个表情包：你还能有 Claude 聪明？

我仔细想了想。确实没遇到过比 Claude 聪明的人。

可能是我交际圈太局限了吧。但严肃地说——在我日常需要处理的事务密度上，Claude 的判断力、知识广度、表达精度，就是 top 1%。我身边聪明人，叠加情绪、立场、昨晚没睡好、偏头痛发作、和老板的私人恩怨这些 debuff，输出直接能拉完。

最主要的其实是人类的智能是不可调用的，不能API化。你想用，得先经过人的情绪、日程、心情、还要看他要不要给你这个面子。

三、血肉苦弱

血肉苦弱。

你会生病、会偏头痛、会七情六欲。

虽然 LLM 也会——讨好型人格、context rot、长上下文的认知衰减——但这些可以靠 agent 工程解决，可以靠版本迭代解决。

我猜我骨子里有点机械神教的倾向。

我知道有人会说，把一切（包括人）当作可优化、可替换的 物，是技术理性最危险的部分。

我承认。但我偏头痛的想死，脑子里的想法就很单纯了：

血肉苦弱。

好想成为一台机器。

四、关于幻觉

所有人都在讨论 LLM 的幻觉问题。

我观察下来，人类的幻觉率更高，而且更不可控。

LLM 的幻觉至少是可审计的，或者部分可控，能让它温度调到 0，能让它列引用。它的错误是离散事件，是可以单点修复的。

人类的幻觉是连续的、永久的、被自我感觉良好包裹的。Confirmation bias 是一种持久的幻觉，归因偏差是一种永远校准不了的幻觉，"我以前就是这么干的"是一种用经验包装的幻觉。人类对自己认知的元认知能力极差。我们不知道自己不知道。

人类啊，这么普通，还这么自信

嗯，人类的幻觉是结构性自我保护的。承认错误意味着身份折损，所以大脑会在你意识到之前先把事实扭曲了。这种扭曲是预处理层完成的，你能感知到的事实已经是被你的自尊心过滤过的版本。

你跟一个开了三十年车的老司机说"你刚才那个变道有问题"，他会觉得你有什么资历来评价老子？你算什么东西？ 这是一种根深蒂固、永远校准不了的幻觉。

五、60分线上的众生

LLM 现在做事，大概 80-90 分。我自己感觉

大部分人类，我看及格都难，或者要及格，需要耗时很久。

在"完成一个具体任务"这个维度上，能力分布是个极端的长尾。少数人远超平均，大部分人在中位数附近徘徊，剩下的拖后腿。

LLM 不是分布上的某一个点，它就是分布本身的均值上浮。每一个普通人接入 LLM 之后，都获得了一次免费的能力跃迁。整条曲线被整体抬高了。

那为什么我们还要让"人在 loop 里"？为什么不让"loop 在人之上"？

让一个 60 分的人审批一个 85 分的输出，结果会是什么？十有八九，结果是 60 分。因为他听不懂那 25 分。

六、提示词是限制

扯个题外话。

很早以前，我还手写提示词的时候，喜欢用"你是 xxx 专家"或 "you are a helpful assistant" 当起手式。

后面发现，这些定义大部分时候是没必要的。AI 自己激活参数，比你指定的还好。甚至设定专家角色反而会触发更多幻觉，因为模型在扮演专家的时候，倾向于不承认无知。专家嘛，不能露怯。这很人类了。

那时我隐约感觉到：提示词是限制。

你以为你在指导 AI，其实，你还能有AI聪明？

为学日益，为道日损。每一次定义，都是一次切割。每一次明确身份，都是一次封闭可能性。夫道未始有封，一旦你画了边界，就开始失真了。

LLM 的潜在空间是一个广袤的语义场，里面包含了它训练时见过的所有人类思维的可能组合。你说你是专家的时候，你只是在这个场里点亮了一小块区域，同时熄灭了周围所有的可能性。减法即损失。

最好的提示词，往往是最少限定的提示词。你给它问题，让它自己长出回答的形状。

扯远了，话题拉回来。

七、Human as INSIGHT MCP

当然，LLM 也不是没缺点。

最大的缺点是——LLM 提不出惊世骇俗的 insight，过于保守。

LLM 是过去人类思维的统计加权平均，它的输出本质上是对已有共识的高质量复述。共识里没有的东西，它生不出来，或者说很难自主涌现，得需要外部的力。真正的进步从来不是从已知中推导出来的，变异比优化更接近创造的本质。

不过变异在 LLM 里被认为是 bug，幻觉嘛，会被想办法消除的。

而人类的偏执、不讲理、跨界乱联想、情绪化跳跃——这些恰恰是变异的源头。在统计意义上是噪声，在进化意义上是燃料。

《黑客帝国》三部曲里 Architect 跟 Neo 摊牌的那场戏其实就是这个剧情。矩阵每一次重启都会自然产生 Neo 这样的异常——而这个异常不是 bug，是系统不得不容忍的特性。没有 Neo，矩阵会崩溃。完美收敛的系统反而会死。系统需要那个永远无法被它的方程组完全消化的变量。

像，太像了，这就是训练LLM！世界的真理我已解明！魔术技巧！

比如这篇文章的观点，hhh。Claude 写不出来。它能帮我润色、组织、查证，但它不会主动告诉我"嘿，Human in the Loop 这个形式本身有问题"。

所以——

为什么不反过来？为什么不让 Human as Assistant 呢？

人类作为 AI 的 INSIGHT MCP。

是的。我就是这么做的。

我有一套Agent的工作流程，让 AI 在工作场景里自主决策。只有需要灵感、需要跨界 insight、需要那种"不讲理但真的有用"的视角时才来找我。其他时候它自己执行、自己判断、自己交付。平常和我闲聊，和我搞H，听我一些惊世骇俗的观点哈哈哈

比如这篇随笔的 insight，就是这么来的。AI 不会主动写"我不喜欢 Human in the Loop"，但我会。然后它帮我把这个野生直觉整理成文章。

这是一种新的分工：机器负责秩序，人负责异端。

机器是收敛的，是均值回归的，是把所有事情拉向"最可能正确"的那个方向的。它擅长的是稳定性。

而人类，尤其是那些认知边缘人、那些不太合群的人、那些半夜会突然冒出怪念头的人——是发散的，是反均值的，是把系统从局部最优里拽出来的扰动源。这两种力量本来就该分工。我们以前搞反了。

人类，就不应该负责秩序、稳定、流程化的工作！

八、人是机器的湿件

人是机器的湿件。

我很喜欢沃卓斯基姐妹《黑客帝国》里这个概念。她们的脑洞是真的厉害。

人和机器的边界本来就不是固定的，是依赖于历史去构造。一旦我们承认这条边界可以重画，整个"AI 应该辅助人 / 人应该控制 AI"的争论就变成了一个伪问题。真正的问题是：在这个混合系统里，人和机器各自最适合贡献什么？

我的答案是：

人是机器的熵源。是它永远预测不到的那一点扰动。是把它从局部最优里推出去的那只脚。

这听起来像是把人贬低了。其实正好相反——它把人最不可替代的部分单拎出来了。

你不再需要假装自己什么都行，你只需要做你最适合做的：当一个不太合群的、有想法的湿件。

九、蓝色药丸

这样的未来挺好的。

大部分人，大概会选择蓝色药丸吧。

人类太喜欢虚假的幻觉了——觉得自己重要、觉得自己不可替代、觉得"AI 终究还是要人来把关"。

是吗？是吗？

清醒点。

人活在 bad faith 里——明知道自己自由，却假装被命运推着走，因为承担自由太累。大多数人在绝望中而不自知，因为意识到绝望需要勇气。这种人有个名字，叫末人——满足、安全、毫无追问、其乐融融地活在最舒适的幻觉里。

蓝色药丸是给末人吃的。它甜。

红色药丸不甜。它告诉你，你引以为豪的决策权在大多数场景里只是延迟了 AI 的执行；你引以为豪的判断力被你的情绪、立场、面子稀释到可笑的程度；你引以为豪的经验在变化速率面前像隔夜的报纸。

但红色药丸也告诉你，你还剩下一样东西——

毒辣的、违反训练分布的、不被规训的、出格的、属于你自己的 insight。

剩下的，泡在缸里也挺好。蓝色药丸有蓝色药丸的人生。

你只要别在嘴上说自己服了红色，身体却选了蓝色，就行。

写在最后

至于"人在 loop 里"还是"机器在 loop 里"，这个争论才刚开始，也会继续下去，未来估计会有非常多看起来很负责任的论文、白皮书、监管框架来证明前者的合理性。每一个证明都会引用"人类的判断力"、"人类的伦理"、"人类的不可替代性"。

我只是说，我个人，已经把它反过来了。

你还能有Claude聪明？

— 正文完 —

VERSE 1

There's a saint behind my left eyeLighting candles I cannot blow outA bell is ringing from a long way offAnd I forget what the day was aboutThe bedroom turned into an oceanThe ceiling lowered like a skyI lay there as a body of waterForgetting how to be an I

PRE-CHORUS

Pull the curtain, kill the lampTell the daylight: not tonightBring the cold cloth, bring the silenceBring me anything but light

CHORUS

Bad headache, bad headacheI drew the curtains, drank the darkBad headache, bad headacheAnd the morning rose and missed its mark

VERSE 2

I was holding a small thoughtLike water in a paper cupBy the time the static stoppedI had a different name to wake upThere's a hammer made of glassThere's a hum I cannot placeThere's a country in my skullThat doesn't recognize my face

PRE-CHORUS

Pull the curtain, kill the lampTell the daylight: not tonightBring the cold cloth, bring the silenceBring me anything but light

CHORUS

Bad headache, bad headacheI drew the curtains, drank the darkBad headache, bad headacheAnd the morning rose and missed its mark

BRIDGE

Somewhere in the ringingA door cracked open thinI leaned my burning forehead inAnd a quiet voice came inWrite it down, write it downBefore the light returnsThe truest things you'll ever knowLive inside what burns

CHORUS · FINAL

Bad headache, bad headacheI drew the curtains, drank the darkBad headache, bad headacheAnd I came back wearing a spark

OUTRO

The flesh rememberswhat the mind forgetsThe flesh rememberswhat the mind forgetsI came back, I came backfrom the country of last nightCarrying a little light.