乐于分享
好东西不私藏

AI时代最大的幻觉

AI时代最大的幻觉

微软 CEO Satya Nadella 在长文《A frontier without an ecosystem is not stable》提出的双资本公式:企业竞争力 = 人力资本 × Token 资本

人力资本:组织独有的、AI 无法复制沉淀的底层能力,比如判断力行业人脉、创造力、审美、隐性经验、跨领域模式识别等。

这是一切 AI 产出的源头。

Token 资本:可以理解为:AI 时代的组织操作系统。比如:私有知识库、专属工作流、行业 Prompt 体系、业务 Agent。

Tips

如果一套东西只是:花钱调用模型、人工临时拼 prompt、每次从头来过,这是 token 成本

如果一套东西已经变成:有固定输入输出、有业务知识沉淀、有评测与反馈、有自动迭代,这才更像 token 资本

企业如此,个人也一样,可以直接套用这个公式。

个人竞争力=人力资本× Token资本

Tips: 对于个人而言,token资本是专属提问框架、标准化 AI 工作流程、经过自己校验打磨的产出模板、把个人经验固化成可复用 AI 工具。

两者不是此消彼长,而是相乘的关系。

一旦运转起来,就能形成飞轮效应。但任何一项趋近于零,结果就趋近于零。

最近恰好看到 @ianneo_ai 在 X 发的这篇文章《知识库最尴尬的时刻:AI 写完了,我判断不了》,里面有这样一段话:

热衷于在Obsidian里面塞很多内容,各种文章、课程转录稿。但发现自己输出的时候,没啥用,自己不理解,所以AI出的内容我也判断不了。

他接着说了一个让人后背发凉的观察:以前不懂就写不出来,那时候知道自己没理解。现在 AI 能帮你写出来,你就很容易忽略,这里没理解的概念,那里尚未清晰的逻辑。

直到看着一篇还不错的内容,心里没底,暗自发怵。它说的对吗?

这是AI时代最大的幻觉。

AI 只能做执行载体,判断力、审美、底层思考永远属于人,一旦本末倒置,就会陷入 “看似变强实则内核空洞” 的幻觉。

人的判断力越强,Token资本增长越快。没有人定目标、指导,算力就是在空转。

不用 AI,你卷不过单位时间产出比你高 10 倍的人。用不好 AI,你做不出及格线以上的东西。但完全依赖 AI 而放弃自己的积累,这才是最危险的。

危险在于,你完全没有意识到。

"You can offload a task, or even a job, but you can never offload yourlearning."你可以将任务甚至整个工作外包出去,但你绝对不能把学习外包出去。

Nadella 给企业的建议是"建立学习循环,让人力资本和 Token 资本复利增长"。

怎么提升人力资本?

第一个方法:先判断,再让AI验证

最近在X上爆火的《how to be good at research》,文章主要针对人工智能研究,但实际上可以应用于各个领域。

文章中提到的研究方法:先预测再验证,拿到结果后再修正。这是模型的训练过程,也能训练我们的大脑提升对研究主题的 taste。

在日常的实践中,我们可以拿到一个问题,先自己想:我觉得答案是什么?为什么?然后再问 AI。你的判断和 AI 判断之间的差距,就是学习发生的地方。

如果你每次都直接问AI要答案,你训练的是检索能力,不是判断力。

第二个方法:输出倒逼理解

输出是最好的检验。你写不清楚、讲不清楚的东西,你就是没理解。

这里《how to be good at research》原文太好了,我直接放翻译的片段。

保罗・格雷厄姆曾提出:一个念头在落笔成文前,总会让人觉得完整无缺。可一旦写在纸上,藏在脑子里、被大脑自动遮掩的漏洞就会尽数暴露。

写作,是抵御自我欺骗成本最低的办法。达尔文更是把这套方法固化成了固定流程:但凡遇到和自身理论相悖的事实,他都会当场记录。他早已察觉,人的记忆总会下意识淡化不利证据,却牢牢记住有利佐证。做研究时,你的记忆也会同样过滤掉失败的试验过程。因此一定要做好实验日志:写下研究假设、实验条件、预期结果、实际观测数据,以及修正后的推论。回头翻看一个月前的记录,带来的自省与警醒,是任何审稿人都无法给予的。

第三个方法:让AI当教练,不当代笔

Claude Code 有一个 learning模式,开了之后它不会直接帮你写完所有代码,而是在关键的设计决策点停下来,让你自己想,自己写几行。写完之后它告诉你这段代码跟更大的系统设计之间的关系。

配置路径:/config > output style > 选择learning 模式

但这样对于无技术背景的小伙伴不友好,也降低了效率。

我更喜欢的方法,来自Claude团队成员的分享。

这个提示词是让AI在做完一轮复杂改动后,反过来向你解释,确保你能吃透项目细节。

给claude发这段提示词,AI能帮你搞清楚:

-问题:bug为什么会存在,影响分支;

-方案:选择该方案的理由、取舍、各类异常边界处理;

-背景:改动的作用,会影响的范围。

这个提示词的聪明之处在于:AI会先让你说自己的理解,再根据你的表达查漏补缺。如果听不懂你也可以要求AI给5岁孩童讲,或给实习生讲。最后还会用开放式的问题测试。

怎么提升 Token 资本

把 Token 资本理解为“把自己的知识、判断、流程和反馈,沉淀进可复用的 AI 系统”,那它的提升方法就不是单纯“多用 AI”,而是让 AI 逐步成为你的专属工作系统。

1. 把重复任务抽象成固定流程

面对重复任务,把你的做事方式变成可执行、可迭代的流程。

你越能把问题结构化,你就越能把这套澄清流程沉淀下来,变成自己的资产。

比如我们去和AI澄清诉求这件事本身,可以抽象出方法:

1)描述完需求后,不急着开工,先让 AI 复述一遍“我们现在要做什么”。

2)让 AI 反向向你提问,一次只问一个问题,直到它认为信息足够完整。

当澄清需求这个变成了一个高频任务。我们就可以把提问顺序、上下文结构、关键约束,整理成固定模板。

可以是提示词,可以是skill 或 agent。

以下是2个示例。

1)来自 @charliejhills ,把网页设计需求澄清,做成固定模板提示词。

我正在搭建一个网站,需要一份名为 CONTEXT.md 的文件,用来存放搭建该网站所需的全部客观基准信息。

请你先向我提问收集信息,一次只问一个问题,提问范围包含:网站的核心定位、目标服务人群、网站必须具备的内容板块、访客进入网站后预期完成什么操作。持续提问,直到你掌握的信息足够完整,可以向一个完全陌生的开发者清晰完整地交代整套建站需求为止。

信息收集完毕后,展示你整理好的事实清单,等待我确认“同意”再进行下一步。

清单里只收录和网站业务主题相关的真实客观信息

所有内容仅使用我回答的真实信息、以及你已掌握的客观已知内容,禁止编造任何信息。

最终整理成可直接下载的 Markdown 文件交付给我。

2)YC的CEO GarryTan 把他们自己的商业判断、开发流程做成了gstack。

当你需要做商业级产品,但是对产品判断没有把握,就可以借助其中的 office-hoursplan-ceo-review 先把定位、业务模式和执行路径理顺,再进入落地。

在这些示例中,把你和 AI 的对齐过程标准化。久而久之,你就可以积累出一套可复用的需求澄清机制。

2. 让你的偏好、标准和反馈沉淀下来

Token 资本真正值钱的地方,在于“它会不会越来越像你”。

所以你要把这些内容持续沉淀到固定载体里:

- 你的写作规范

- 你的判断标准

- 你的技术框架

- 你常犯的错误

- 你对输出的偏好

- 你已经验证过的高质量模板

最常见的载体就是一个 CLAUDE.mdCONTEXT.md、知识库、Prompt 集合,或者一套 agent 工作流。

AI 每次犯错后,不只是改结果,更要分析原因,把修正规则写进去。这样,错误就不会只停留在一次对话里,而会变成下一轮系统优化的输入。

但这里要注意:文档不是越长越好。

过长、过散、过杂的 context,反而会让 AI 更难抓住重点。真正有价值的沉淀,是高信噪比、可执行、可复用的规则,而不是堆积信息。

具体可以看 @宝玉 的帖子:

启动飞轮

人力资本强 → AI 输出的质量高 → Token 资本增长越快 → AI 帮你做更多高质量输出 → 你从输出中学到更多 → 人力资本继续增强。

Nadella 管这个叫"hill climbing machine",一台不断向上攀登的机器。

跟大多数资产不同,这个飞轮效应。每一次更好的输出,都产生更好的反馈信号,加速你的知识积累。但飞轮反过来也成立。

人力资本下降 → 你判断不了 AI 的输出 → 输出质量你自己看不出问题但别人看得出 → 信任下降、机会减少 → 学习动力更低 → 人力资本继续下降。

这就是为什么 Nadella 反复说"你绝对不能把学习外包出去"。

最后,引用《how to be good at research》的内容作为结束:

知识积累与工作产出如同复利,会持续滚雪球式增长。

单看每一天的微小优势,都不值一提:你阅读的资料、留存的记录、迭代思考的速度、和你辩论切磋的同行。经年累月沉淀下来,最终造就旁人眼中好似全凭运气换来的事业成就。

不必等到迫不得已才开始积累,尽早行动。未来的你会明白,当下点滴耕耘,是成本最低、回报最高的投入。

References
[1]知识库最尴尬的时刻:AI 写完了,我判断不了》https://x.com/ianneo_ai/status/2067869788219859143
[2] A frontier without an ecosystem is not stable:
https://x.com/satyanadella/status/2066182223213293753
[3] how to be good at research https://x.com/itsreallyvivek/status/2064686372737454155
[4] https://x.com/dotey/status/2068231396015890449
[5] https://github.com/garrytan/gstack
[6] https://x.com/trq212/status/2061545633560010826
[7] Claude Code built my website (9 steps) https://x.com/charliejhills/status/2067933151754924228
END
用好AI,为自己加速 🚀
分享AI学习笔记、AI资讯、AI实践
关注我,不走散
🙏“关注、在看、分享”都是支持🙏