夜雨聆风系列：AI 认知启蒙 | 难度：零基础 | 预计阅读：10 分钟
本课覆盖：CPU 与 GPU 的分工 → 内存、硬盘与显存的区别 → AI 训练为什么需要大量并行计算 → 如何建立面向 AI 的硬件直觉
学完本课，你会明白：AI 不是漂浮在云端的魔法，它背后是一台台真实运转的计算机。所谓“烧显卡”，本质上是在用大量芯片同时完成海量数学计算。
先把 AI 从云端拉回地面
前七课，我们一直在讲 AI 的世界观。
AI 是什么。它怎么发展到今天。它能做什么、不能做什么。它已经进入哪些行业。以及，在这个时代里，你应该怎样找到自己的位置。
但从这一课开始，我们要稍微往下钻一层。
因为你迟早会听到这些话：
这个模型要 8 张 H100（一类高端 AI 显卡）才能跑 大模型训练一次要烧掉几百万美元算力（可以粗略理解为“计算能力”的成本） 本地部署模型（把模型放在自己的电脑或服务器上运行），显存至少要 16G GPU 供不应求，所以英伟达市值暴涨
如果你没有一点硬件直觉，这些话听起来就像黑话。你知道它们很重要，但不知道它们到底在说什么。
这一课不是让你变成硬件工程师。
它只想帮你建立一个最基础的判断：
AI 的背后不是魔法，而是计算。计算的背后，是 CPU、GPU、内存、硬盘和显存这些真实硬件在协作。
只要你理解这件事，后面再学模型训练、参数量、推理成本、部署门槛，很多东西就不会悬空。
01｜计算机到底在做什么
计算机不是“聪明”，只是算得快
我们平时说电脑很智能，其实容易误导。
计算机并不真的理解你在做什么。它擅长的是把复杂任务拆成非常简单的操作，然后以极快速度重复执行。
比如你在手机上打开一张照片。
在你眼里，这是“看照片”。在计算机眼里，这是一堆数字：
每个像素是什么颜色 每个颜色对应多少亮度 屏幕上每个点应该显示什么 用户手指滑动时，下一帧图片应该移动到哪里
你看到的是图片。计算机看到的是数字，或者说，是一大片表示颜色和亮度的数字。
你看到的是文字。计算机看到的还是数字。
你听到的是声音。计算机处理的依然是数字。
这就是理解 AI 硬件的第一块地基：
计算机世界里，一切最终都会变成数字，然后被计算。
AI 更是这样
AI 模型看起来会聊天、会画图、会写代码，但它内部处理的仍然是一串串数字。
一段文字，会被切成 token（模型处理文本的基本单位），再变成向量。
一张图片，会被拆成像素，再变成矩阵（按行和列排列的数字表格）。
一个模型的“知识”，会存放在大量参数里，而参数本质上也是数字。
所以 AI 做的事情，说到底就是：
输入一堆数字 → 做大量数学计算 → 输出另一堆数字
你问 ChatGPT（OpenAI 的聊天 AI）一个问题，它不是像人一样“想了一下”，而是在大量数字之间做计算，判断接下来最可能输出哪些 token。
这听起来有点冷冰冰。但正是这个冷冰冰的事实，解释了为什么 AI 离不开硬件。
因为数字越多，计算越多，就越需要强大的机器。
02｜CPU 和 GPU：一个像总经理，一个像万人车间
CPU：适合处理复杂决策
CPU（中央处理器）是计算机的大脑。
你电脑、手机、服务器里都有 CPU。它擅长处理各种复杂、变化多、需要判断顺序的任务。
比如：
打开一个软件 管理文件系统 处理鼠标和键盘输入 调度不同程序 判断下一步该执行什么命令
CPU 的特点是：核心数量不算特别多，但每个核心很强，适合做复杂调度和顺序判断。
你可以把 CPU 想象成一个总经理。
总经理不一定亲自搬箱子、拧螺丝、贴标签，但他很擅长判断：谁先做，谁后做，资源怎么分配，出现异常怎么处理。
GPU：适合处理海量重复计算
GPU（图形处理器），最早是为了处理图像而发展起来的。
为什么图像需要特殊处理？
因为屏幕上有成千上万个像素，每个像素都要计算颜色、亮度、位置。更关键的是，这些计算高度相似，可以同时进行。
比如游戏里一帧画面有几百万个像素。每个像素都要算光照、阴影、纹理。如果只靠 CPU 一个个算，画面会卡成幻灯片。
GPU 的思路很直接：
既然很多计算都长得差不多，那就让成千上万个小计算单元一起算。
所以 GPU 的特点是：单个计算单元没有 CPU 那么擅长复杂判断，但数量非常多，适合大规模并行计算。
你可以把 GPU 想象成一个万人车间。
每个工人只做一件很简单的事，但一万人同时开工，速度就非常可怕。
为什么 AI 特别适合 GPU
AI 训练里最常见的计算是什么？
不是复杂逻辑判断，而是大量矩阵运算。
你暂时不用害怕“矩阵”这个词。可以把它理解成一个按行和列排好的数字表格。
AI 模型训练时，会不断做这种事情：
一大张数字表 × 另一大张数字表 → 得到新的数字表
这个过程会重复很多很多次。
而矩阵运算有一个特点：里面的大量小计算可以同时做。
比如一个巨大表格里有一百万个小格子要计算。CPU 也能并行处理一部分任务，但它更擅长“安排流程”。GPU 则可以让成千上万个小计算单元一起处理类似的小题。
这就是为什么训练 AI 要“烧显卡”。
不是因为显卡神秘，而是因为 AI 训练天然适合 GPU 这种“很多小单元一起算”的工作方式。
关键认知：CPU 擅长复杂调度，GPU 擅长并行计算。AI 训练最需要的不是一个超级聪明的核心，而是一大群能同时做数学题的小计算单元。
03｜内存、硬盘、显存：别把“存东西”混成一件事
硬盘：仓库
硬盘负责长期保存数据。
你的照片、视频、文档、软件安装包，大部分都放在硬盘里。关机之后，它们还在。
硬盘的优点是容量大，价格相对便宜。缺点是读取速度比内存慢得多。
它像仓库。
仓库可以放很多东西，但你不能每用一个东西都跑仓库一趟。太慢。
内存：工作台
内存负责临时存放正在使用的数据。
当你打开一个软件，软件会从硬盘被加载到内存。因为 CPU 要处理数据时，需要从速度更快的地方拿东西。
内存像工作台。
你正在做饭时，不会每切一根葱都去仓库拿刀。你会把菜、刀、砧板放在手边的桌子上。
工作台越大，你能同时摊开的材料越多。
所以当电脑内存太小，你开很多软件就会卡。不是因为硬盘没空间，而是工作台太小，东西摆不开。
显存：GPU 自己的高速工作台
显存是 GPU 自己使用的高速内存。
训练 AI 时，模型参数、输入数据、中间计算结果，都要尽量放进显存里。因为 GPU 计算很快，如果数据来得太慢，GPU 就会空等。
这就像万人车间已经准备开工，但原料还在很远的仓库里一箱箱往里搬。工人再多，也会被拖慢。
所以你会听到很多人说：
“这个模型跑不起来，因为显存不够。”
意思不是电脑硬盘不够，也不一定是普通内存不够，而是 GPU 自己的工作台不够大。
为什么大模型特别吃显存
大模型“大”在哪里？
主要大在参数多。
参数可以粗略理解为模型学到的“经验数字”。参数越多，模型能表达的规律越复杂，但占用空间也越大。
如果一个模型有几十亿、几百亿甚至上千亿参数，这些参数本身就需要大量空间。
更麻烦的是，运行模型时不只是保存参数，还要保存计算过程中的中间结果。
所以 AI 对显存的需求会非常夸张。
关键认知：硬盘是仓库，内存是 CPU 的工作台，显存是 GPU 的工作台。AI 训练不只需要算得快，还需要数据能足够快地送到 GPU 面前。
04｜为什么训练 AI 这么贵
训练不是“读一遍资料”
很多人会误以为，训练 AI 就像人读书：
把全网文本喂给模型 → 模型读完 → 模型学会
实际不是这样。
训练模型更像反复做题、批改、改错。
它的大致过程是：
给模型一批数据 模型根据当前参数做预测 系统计算预测和正确答案差多少 根据差距调整参数 换下一批数据继续
这个过程会重复无数次。
每一次调整参数，背后都是大量矩阵运算。
所以训练 AI 贵，不只是因为数据多，而是因为：
模型要在海量数据上反复计算、反复犯错、反复修正。
参数越多，计算越重
一个小模型就像一个小工厂，设备少、流程短，训练成本相对低。
一个大模型就像一座巨型工厂，设备多、流程长，每调整一次都要调动大量资源。
模型参数越多，通常意味着：
存参数需要更多显存 算一次需要更多计算 训练一轮需要更长时间 多张 GPU 之间需要更复杂协作
这就是为什么大模型训练通常需要 GPU 集群。集群可以理解为：很多台机器、很多张 GPU 连接在一起。
不是一张显卡在那里孤独燃烧，而是成百上千张 GPU 连接在一起，像一座大型计算工厂。
推理也要算，只是没训练那么重
训练是让模型学会。
推理是让学好的模型回答问题，也就是模型已经训练好之后，拿来实际使用的过程。
比如你打开一个聊天 AI 提问，它给你回答，这叫推理。
推理通常比训练轻很多，但并不免费。模型每生成一小段内容，都要做一轮真实计算。
所以当几亿人同时使用 AI，哪怕每个人只是问一个小问题，背后的计算量也非常大。
这也是为什么很多 AI 产品会限制免费额度、按量计费，或者推出会员订阅。
因为你看到的是一句回答，服务器看到的是一串真实发生的计算。
关键认知：训练贵，是因为模型要在海量数据上反复改自己。推理也有成本，因为每一次回答都需要真实计算。
05｜普通人需要建立的硬件直觉
你不需要记住每个芯片型号，也不需要研究显卡参数表。
但你需要有几个基本判断。
判断一：模型越大，越吃硬件
大模型不是“大”在名字好听，而是大在参数多、计算多、显存占用高。
所以当你看到“本地运行大模型”时，要多问一句：多大的模型？需要多少显存？是完整精度，还是量化之后的版本？
量化可以粗略理解为：把模型里的数字用更省空间的方式存下来，牺牲一点精度，换取更低的硬件需求。
判断二：训练比使用贵得多
很多个人开发者可以调用大模型 API 做产品，但很少有人能从零训练一个顶级大模型。
原因很简单：使用模型像打车，按次付费。训练模型像自己造车厂，成本完全不是一个量级。
这也是为什么多数人学 AI，不需要一开始就想着“我要训练一个大模型”。
更现实的路径是：先学会使用已有模型，再学会微调、调用工具、搭建工作流，最后再理解训练体系。
判断三：硬件限制会塑造产品形态
为什么有些 AI 产品反应很快，有些很慢？
为什么有些模型免费，有些很贵？
为什么手机上的 AI 功能常常比云端模型弱一点？
背后都跟硬件有关。
算力越强，成本越高。成本越高，产品就必须决定：
是免费给更多人用，但限制次数 是收费给少数人用，但保证体验 是在云端跑大模型 还是在本地设备跑小模型
AI 产品的很多商业决策，表面看是价格策略，底层其实是硬件约束。
关键认知：理解硬件，不是为了买显卡，而是为了看懂 AI 产品背后的成本、速度和能力边界。
🧩 本课小结
计算本质： 计算机并不真的“理解”世界，它把文字、图片、声音都转成数字，再进行计算。AI 也一样，本质是输入数字、做大量数学计算、输出数字。
CPU 与 GPU： CPU 像总经理，擅长复杂调度和顺序判断。GPU 像万人车间，擅长把大量相似的小计算同时完成。AI 训练需要海量矩阵运算，所以天然适合 GPU。
存储层次： 硬盘像仓库，负责长期保存。内存像 CPU 的工作台，负责临时处理。显存像 GPU 的高速工作台，负责存放模型参数和中间计算结果。
训练成本： 训练不是读一遍资料，而是在海量数据上反复预测、计算误差、更新参数。模型越大，计算越重，显存需求越高，多卡协作越复杂。
普通人直觉： 模型越大越吃硬件，训练比使用贵得多，硬件限制会塑造 AI 产品的价格、速度、能力和商业模式。
🔭 下节课预告
这一课，我们把 AI 从云端拉回了地面：它需要真实的计算机、真实的芯片、真实的显存和真实的电力。
但机器再强，也不能凭空学会东西。
下一课，我们讲 AI 的另一块地基：数据。
第九课：AI 为什么会胡说？答案藏在数据里，我们会回答三个问题：
为什么说没有数据就没有 AI？ 结构化数据和非结构化数据有什么区别？ 训练集、验证集、测试集到底是什么，为什么不能混在一起？
如果说这一课讲的是 AI 的“机器”，下一课讲的就是喂给机器的“燃料”。
下一篇预告：《AI 为什么会胡说？答案藏在数据里》
