常见AI概念术语对照表AI 发展得飞快,术语也是隔三差五就冒出个新的,像是:Prompt、token、微调、RAG、Agent 等等
所以,这期我整理了几组常见的术语,来帮大家逐步搭建关于AI的知识体系。
一. 基础概念
| |
|---|
| 参数量达百亿至千亿级、基于深度学习训练、用于理解和生成自然语言的人工智能模型,是当前 AI 热潮的核心驱动力【例】Claude、DeepSeek这种日常问答、内容生成、代码辅助等场景下使用的模型。 |
| 大模型处理文本的最小单位。文本被切分成更小的片段。英文 1 Token≈0.75 个单词。中文 1 Token ≈ 1 ~ 1.5 个字。 |
| 模型单次对话能容纳的最大 token 数,超过上限会遗忘最早的信息。在长文档分析或长对话场景,1K 上下文约可容纳 1000 个 token(约上千字)。如果一篇文档过长,就没办法在一次对话中全部读取了。 |
| 模型自信地生成看似合理但事实错误或逻辑不通的内容,源于它本质是对词的概率预测【例】问"1.11 和 1.2 谁更大?",模型可能回答 1.11,因为它并不能真的理解小数的概念,只是认为 11 比 2 大。 |
这几个概念比较基础,后面的概念都是建立在它们之上的。
二. 训练与优化
| |
|---|
| 让模型在海量互联网数据上学习语言规律、世界知识和基本推理能力的过程,是模型最耗时、最昂贵的阶段,需 GPU 集群计算数周甚至数月 |
| 在预训练基础上,用高质量的人工标注数据(指令-回答对)继续训练,让模型学会遵循人类指令【例】企业将通用模型用会议纪要数据训练出专门整理会议记录并分类的模型 |
| 让人类对模型回答打分排序,训练出一个"奖励模型"再反向优化主模型,使回答更符合人类偏好,更加像人话,更有常识 |
| 让 AI 的行为目标与人类意图、价值观保持一致的过程,包括安全对齐与价值对齐。是发布前的合规审查,确保输出不生成有害内容、符合社会规范 |
| 一种专门强化"指令遵循"能力的微调,让模型变得更像一个助手【例】模型训练时喂入大量"帮我总结这段""写段代码"类的指令-回答对,它才能学会如何回应这类具体要求并照做 |
三. 架构与技术
| |
|---|
| 目前主流大模型普遍采用的神经网络架构,核心是自注意力机制(Self-Attention):处理当前词时会同时关注句子中所有相关词,从而捕捉长距离依赖【例】GPT、DeepSeek 等主流模型的底层架构 |
| 结合"检索"与"生成"的技术:提问时先从外部知识库检索相关资料,再让模型基于事实生成答案,能有效减少幻觉、引入最新知识【例】企业内部知识问答场景,如询问请假流程时,先检索制度文档再组织回答 |
| 把文字等非结构化数据转化为数字向量(一串浮点数),语义相近的内容在向量空间中距离也近,是语义搜索与 RAG 的底层技术【例】还是企业内部知识问答,询问请假流程时,会用"请假"作为关键词去匹配向量数据库中余弦值最接近的内容 |
| 通过精心设计输入给模型的提示词来引导期望输出的技术,包括少样本学习(Few-shot)、思维链(CoT)等方法 |
| 控制模型输出随机性的参数:低温度(如 0.1)输出保守、确定;高温度(如 0.8+)输出发散、多样【例】法律法规查询可调低以保证结果确定,创意写作可调高以增加输出的发散性和多样性 |
四. 应用形态
| |
|---|
| LLM 与 Harness 组合后的成品:具备自主感知、规划、行动能力,能调用工具、执行多步任务并交付结果,是"聊天机器人"向"自动化工具"的进化【例】多步骤任务场景,如"查询三家酒店房价并整理成表",由其自主规划、搜索、比价并汇总 |
| 模型识别用户意图后,生成符合特定格式的调用参数,去调用外部接口(查天气、订机票、查数据库),并把结果带回给用户 |
| 能同时处理和理解文本、图像、音频、视频等多种类型数据的模型 |
| (Zero-shot / Few-shot / One-shot) | 描述模型在没见过的任务上的表现方式:零样本是不给例子直接问;少样本是给几个例子(上下文学习),模型模仿例子风格作答 |
这里补充一个领域内比较公认的公式:Agent = LLM + Harness。
可以这么理解:独立的大模型(LLM)只能理解和生成语言,没法实际进行文档编辑、脚本运行等操作;给它套上一层工程装备(Harness),像是工具调用、记忆、流程编排等,它才能按照我们的要求真正处理问题、解决问题,这样形成的完整成品叫Agent。
五. 部署与伦理
| |
|---|
| 开源模型权重公开,任何人可下载、修改、商用,可以下载后本地部署;闭源仅通过 API 访问,代码与权重保密(如 ChatGPT、Claude),部署在厂商或运营方的服务器上 |
| 一种高效的模型架构:模型由许多小型"专家"网络组成,每次推理只激活其中一小部分处理当前任务,在保持高性能的同时大幅降低计算成本 |
| 训练和运行模型所需的计算资源,通常以 GPU/TPU 集群的形式存在,是当前 AI 竞争最核心的瓶颈之一,现在许多企业在建立算力中心 |
| 模型因训练数据中的社会偏见(性别、种族、地域等)而产生的不公平输出,是 AI 伦理治理的重点【例】招聘筛选等自动化决策场景,可能因训练数据偏差对特定群体产生不公结果 |
容易搞混的概念
预训练 vs 微调
预训练:是从零开始学,相当于通识教育,成本极高;
微调:是在此基础上用少量专业数据做定向训练,成本低得多。
RAG vs 微调
RAG:是提供一套可供参考的资料,每次处理提问时,如有必要就去现查现用,不改变模型本身,资料也随时可更新。
微调:是把训练内容写进模型参数,调完就没法修改了,再进行修改要重新训练。一般适用于调整某种能力或风格。
上下文窗口 vs 训练数据
上下文窗口:单次对话能容纳的信息,是对话中输入的临时信息,暂时性的缓存,对话结束后就清除了。
训练数据:用来完成模型训练的数据,有固定的大小,固定的时间范围。比如用2015年之前的数据训练的模型,就没法通过训练数据知道2016年的事情。
这一期表格排版排得我很崩溃,大家担待着看吧 T_T
AI学习-从入门到放弃 · 第 3 期