刚开始用 AI 的时候，我们看到的可能只是一些产品名字。ChatGPT、Claude、DeepSeek、Kimi、通义千问、豆包……哦，这些都是不同的 AI 工具。
你会发现，AI 模型介绍里开始出现一堆像电脑配置单一样的词：7B、14B、70B、671B、MoE、激活参数、上下文窗口、Token、显存、量化、4-bit、8-bit……
其实看起来晕不是你的问题，而是这些词本来就没有被好好翻译成人话。这一篇，我们就不讲复杂公式，也不讲底层架构。我们只做一件事：把这些模型参数揉碎，把AI当成公司来和你讲，讲到普通人也能看懂。
一、参数不是知识条数，而是模型的“能力连接”
很多人第一次看到 7B、70B（B：指Billion，十亿的意思），会下意识以为：参数是不是 AI 记住的知识条数？ 70B 是不是代表它背了 700 亿条知识？参数不是一条一条的知识，也不是一个资料库。AI 模型不是把百科全书、论文、网页、代码一条条原封不动塞进脑子里。它更像是在训练过程中，看过大量文本、代码、图片说明、问答材料之后，慢慢形成了一套复杂的“反应模式”。比如：看到一个问题，它更可能往哪个方向理解；看到一句话，它更可能接什么内容；看到一个任务，它更可能用什么结构回答；看到一段代码，它更可能判断哪里有问题。模型训练之后形成的能力连接。（看不懂没关系，接下来会给你讲清楚）这些参数不是知识条数，而是模型内部那些看不见的“判断倾向”和“能力结构”。就像一个人读过很多书之后，他不是把每一页书都完整背下来，而是在脑子里形成了自己的理解方式、表达方式和判断方式。那参数越多，是不是模型就越聪明？
一般来说，参数越多，模型的容量可能越大，能容纳的模式可能越复杂。但参数不是单纯的智商排行榜。训练数据质量、训练方法、中文能力、代码能力、推理能力、后期优化、是否能调用工具、是否被量化压缩过，以及它到底适不适合你的任务。
参数多，通常代表模型的容量上限可能更高。但模型最终好不好用，不只看参数大小。
二、把模型想象成一家公司
如果上面的没看懂也没关系，我们先把一个 AI 模型想象成一家公司，这样你就能理解了。这家公司里有很多“员工”。这些员工不是真的人，而是模型里的参数。这家公司有 700 亿个“能力连接”——700亿个能帮你做事的人。
员工越多，公司理论上能处理的事情越复杂。但公司越大，占地面积也越大，运行成本也越高。这就像模型参数越多，模型本体通常越大，需要的显存、内存、算力也越多。有些公司一接到任务，基本全公司都要动起来。有些公司则是按照任务类型，派出不同的专家小组。这就对应到 AI 模型里的两个概念：稠密模型和 MoE 模型。稠密模型，英文叫 Dense Model。你可以把它理解成一种“全员参与型公司”。当你问它一个问题时，模型里的大部分参数都会参与计算。不管你问的是写文章、翻译、代码、数学，还是总结分析，它基本都是整个模型一起工作。用公司比喻就是：来了一个任务，公司大部分员工都一起开会、一起判断、一起处理。所以，如果一个稠密模型是 70B 参数，可以粗略理解成：它每次回答时，基本都是一个 70B 规模的模型在工作。
MoE 的全称是 Mixture of Experts，一般翻译成“专家混合模型”。听起来很晦涩，但用公司比喻就很好懂。MoE 模型更像一家有很多部门的大公司。里面有写作组、代码组、数学组、翻译组、逻辑推理组、长文本处理组……当你问一个问题时，它不是每次都让全公司所有人一起开会，而是先判断：这个任务更适合交给哪些专家？然后再派出一部分相关专家参与回答。你问代码问题，它更可能调用代码相关的专家。你让它写文章，它更可能调用语言表达相关的专家。你问数学题，它更可能调用推理和计算相关的专家。所以在 MoE 模型里，我们经常会看到两个数字：整体参数和激活参数。整体参数，就是这家公司一共有多少员工。激活参数，就是这次任务真正上场干活的员工规模。比如一个模型写着：总参数 671B，激活参数 37B。这句话的意思不是说它只有 37B。也不是说它每次都把 671B 全部用上。而是说：它整个系统有 671B 参数，但每次回答时，大概只调用其中 37B 左右的参数参与工作。整体参数，看的是模型总共有多大。 激活参数，看的是每次回答真正动用了多少。稠密模型更像“全员上班”。MoE 模型更像“专家小组轮班”。这也是为什么我们不能简单粗暴地拿一个 70B 稠密模型，和一个 671B 总参数、37B 激活参数的 MoE 模型直接比大小。
三、上下文窗口不是记忆，而是这次递给 AI 的资料
讲完参数，我们再看另一个经常被混淆的词：上下文窗口。但更准确地说，上下文不是永久记忆，而是这一次对话中所能涉及到的数据。参数，是模型训练后形成的能力。上下文，是这次对话里你临时递给模型看的内容。比如你让 AI 总结一篇文章。模型本身会不会总结，和参数、训练有关。你这次能不能把整篇文章都发给它看，和上下文窗口有关。上下文窗口越大，就代表这家公司一次能接收、摊开、处理的资料越多。它有点像一张办公桌。桌子大，你可以一次摊开一本书、一份合同、一堆会议记录。桌子小，你只能摊开其中一部分资料。但要注意：桌子大，不代表员工一定聪明。桌子小，也不代表员工完全没能力。总的来说，参数决定模型本来有什么能力。 上下文决定这次任务里，它眼前能看到多少资料。上下文窗口经常会写成 32K tokens、128K tokens、1M tokens。这里的 token，可以先理解成：AI 眼里的文字小块。比如汉语里，“我爱中国”这句话，在模型眼里可能会被拆成几个小块。这些小块可能是一个字、一个词、一个标点，也可能是词的一部分。普通人不用纠结它到底怎么切。你只要知道：Token 是 AI 处理文本时使用的小单位。上下文窗口越大，通常代表你能塞进去的文字越多。但 token 和我们平时说的“字数”不能完全划等号。
四、显存：模型运行时需要办公场地
当你在本地电脑上跑模型时，模型不是躺在硬盘里就能回答问题。它需要被加载到显存或者内存里，才能开始工作。继续用公司比喻：模型本体，就像公司本身。公司要运转，员工要有工位，资料要有地方放，大家开会和写方案也要有空间。它还要放这次任务的资料，也就是你的问题、文章、代码、对话记录。它还要留出模型生成回答时的临时工作空间（如果没有的话他就无法返回东西给你）。因为 AI 一边理解、一边计算、一边生成内容，这个过程也需要空间。这个模型文件是 4GB，所以我有 4GB 显存就一定够了。
模型本体要占地方，任务资料要占地方，模型工作时也要占地方。这就像你不能只看公司员工能不能塞进办公室。你还要给他们留会议室、资料区、走动空间和临时工作区。所以本地跑模型时，不能只盯着模型文件大小。还要额外预留一部分空间。上下文越长，任务越复杂，需要预留的空间通常就越多。这也是为什么 7B 模型看起来不算特别大，但本地跑起来依然会吃显存。因为 7B 是 70 亿参数。这些参数不是抽象数字，它们要被保存、加载、参与计算。如果用比较精细的方式保存，一个 7B 模型光模型本体就可能需要十几 GB空间。而这还只是模型本体，不包括上下文和临时计算空间。所以 7B 并不等于“小到随便跑”。它只是相对于 70B、671B 这些模型来说，更适合普通人本地尝试。
五、量化：把模型压缩到普通电脑更能跑
量化听起来很技术，但说白了就是：把模型参数用更省空间的方式保存（也就是压缩）。一个 7B 模型量化之后，还是 7B 参数。不是说它被减少成了 3B。它更像是：公司还是这么多人，但每个人占用的办公空间变小了。你也可以开玩笑地理解成：公司开始压缩工位的空间了。原来每个员工一个大工位。现在每个员工一个小工位。这样同样的办公室，就能塞下更多人。对应到模型里，就是：原来每个参数用比较精细的方式保存。量化后，每个参数用更省空间的方式保存。好处是很明显的：模型更省显存，普通电脑更容易跑起来。如果只是简单聊天、改写、轻量总结，量化带来的影响可能量化。。你可能觉得它回答得也还可以。但如果任务变复杂，比如数学推理、代码生成、长文本分析、复杂逻辑判断、专业知识问答、多步骤任务规划，量化带来的质量损失就可能更明显。它可能表现为：理解变浅，细节更容易漏，推理更容易断，代码更容易出 bug，长文总结更容易丢重点，回答稳定性下降。用一部分精度和质量损失，换来更低的显存需求和更低的运行门槛。
六、看模型，不要只问“大不大”
到这里，我们再回头看 7B、70B、671B 这些数字，就不会那么迷糊了。参数，说的是模型训练后形成的能力连接。总参数，说的是这个模型整体有多大。激活参数，说的是每次回答真正动用了多少。稠密模型，像大部分员工每次都上班。MoE 模型，像根据任务派专家小组。上下文窗口，决定这次能给 AI 多少资料。Token，是 AI 眼里的文字小块。显存，是模型运行时需要的办公场地。量化，是把模型用更省空间的方式保存，让普通电脑更容易跑起来，但可能牺牲一部分输出质量。它是稠密模型，还是 MoE 模型？ 它的总参数是多少？ 如果是 MoE，它的激活参数是多少？ 它的上下文窗口有多长？ 它有没有量化版本？ 我的电脑跑不跑得动？ 它适不适合我的任务？有多少员工，决定了它的总体规模。每次派多少人，决定了它的运行方式。办公室有多大，决定了它能不能在你的电脑上工作。任务资料有多少，决定了它这次能看多少内容。工位压缩得多狠，决定了它能不能省空间，也影响它能不能发挥稳定。而是为了让我们在使用 AI 的时候，不再只看热闹，不再被排行榜和参数数字牵着走。它是什么结构？ 每次真正动用了多少？ 能看多长的上下文？ 运行成本高不高？ 适不适合我手上的任务？参数不是智商排行榜。 它更像是一份说明书：说明这个模型的能力、结构、成本和边界。当我们能看懂这份说明书，才算真正开始理解 AI 工具。
夜雨聆风
