AI 都会写代码了,我为什么还劝你手写一遍大模型

最近后台被同一个问题刷屏：

"龙虾哥，AI 都能帮我写代码了，我现在啃大模型原理，还有意义吗？"

这个问题我认真想了很久。今天用一台没有显卡的破笔记本（用了8年），给大家一个答案。

先说结论：AI 干掉的，是"只会调 API 的人"；能留下来的，是"懂原理、能排障、敢碰底层的人"。

我干了件"傻事"

过去2周，我用一台普通笔记本——没显卡、没大内存，就是那种跑个游戏都费劲的——把一个大模型从零到一撸了一遍。

不用 PyTorch，不用任何深度学习框架，全程只有 NumPy，一个 Python 的数组计算库。

路线是这样的：

1，从一条最简单的直线 y = 3x + 8 开始，理解什么叫"训练"——机器自己调参数，把损失一点点降下去；

2，把直线叠成神经网络，理解它为什么会"分类"；

3，拆开 tokenizer，看看"你好"是怎么变成一串数字的；

4，手写注意力机制（attention），这是 Transformer 的心脏；

5，手写一个完整的 Transformer 层；

6，把真实的 Qwen2.5-0.5B 权重文件打开，一个一个数参数；

7，算清显存这笔账，手写 KV Cache；

8，算 FLOPs，搞懂芯片宣传页上的算力数字是怎么来的；

9，手写温度采样和 top-p，搞懂为什么模型每次回答都不一样；

10，终极挑战：纯 NumPy 复现一个 2 层的迷你 GPT，和 HuggingFace 官方实现逐位对齐。

全程 CPU，一次云算力都没买。

四个"值回票价"的瞬间

做完之后回头看，有四个瞬间，我觉得这十几个晚上值了。

瞬间一：0.5B 不是"5亿"，是 4.94 亿，而且大头不在你以为的地方。

把 Qwen2.5-0.5B 的权重文件打开，像数豆子一样把每个参数数了一遍：4.94 亿，分毫不差。其中真正"思考"的注意力只占 8.9%，词表嵌入占了 27.6%，而最不起眼的 FFN 层占了 63.5%——所谓"知识"，大部分存在这些没人聊的矩阵里。

瞬间二：不下载 7B 模型，我算出了它有多大。

拿到 7B 模型的配置文件（不到 1KB 的 json），用课程里推导的公式一算：76.2 亿参数。官方口径：7.62B。分毫不差。从这一刻起，"7B"、"14B"、"72B"这些数字对我来说不再是营销话术，而是一笔能心算的账。

瞬间三：手写了 KV Cache，才看懂"越聊越贵"的真相。

为什么 AI 助手聊得越久、响应越慢、成本越高？手写一遍 KV Cache 就懂了：模型和你的每轮对话，都要把全部历史的"记忆"存在显存里，7B 模型聊 1 万 token 的长对话，光这份记忆就要约 0.5GB。所谓大模型推理优化，一大半功夫都是在伺候这份记忆。

瞬间四：和官方实现对齐的那一秒。

迷你 GPT 跑通后，把它的输出和 HuggingFace 官方实现对比：最大误差 0.0039（官方参考值是半精度存的，这基本就是精度极限），逐位置对比 100 个候选词，100% 一致。它还能用中文一本正经地生成出"推理是人类思维的高级形式"。

那一秒的感觉，不是"我学会了"，是"我拿下了"。这个感觉，看一百个视频都替代不了。

顺手捡到的三个"真坑"

手写还有个附带好处：你会踩到看教程永远踩不到的坑。

比如 NumPy 的一个函数悄悄返回 64 位浮点数，把你精心维护的 32 位精度全链路污染，模型输出直接飘了；比如中文在分词器里显示成"乱码"吓你一跳——其实那是字节级 BPE 的正常表现；比如 Qwen 的某些权重带偏置、某些不带，报错报得莫名其妙。

这些坑，教程不会写，但工作里全是。踩过一次，面试官追问三层你都不虚。

所以，回到开头的问题

AI 都会写代码了，学原理还有用吗？

我的答案：正因为 AI 会写代码了，"能判断 AI 写得对不对、能解决 AI 解决不了的性能问题"才变成了稀缺能力。调 API 的事让 AI 干，原理和排障的事，它还替不了你。

而学原理最扎实的方式，从来不是看视频、刷收藏夹——是找一台普通笔记本，亲手写一遍。

完整实验代码和教材我已经全部开源，10 个 Jupyter 实验 + 每题参考答案 + 图文安装教程，一台笔记本就能跑，纯 CPU，不用买任何算力：

https://gitcode.com/LXG_AI/LXG_LLM_INFER_COURSE（llm_theory 目录）

实验里卡住了、想系统跟着走的、想聊转行 AI 的，欢迎来我的知识星球"龙虾哥AI工程化实战"，里面有答疑、有连载、还有一群同路人：

https://wx.zsxq.com/group/51114211588414

下一篇就是第一课。我们从一条最简单的直线 y = 3x + 8 讲起：机器到底是怎么"学"的？"损失""梯度""学习率"这三个被讲烂了的词，我用高中生都能听懂的方式给你讲透——看完你就明白，ChatGPT 的"学习"和这条直线，本质上是一回事。

关注不迷路，我们下篇见。