夜雨聆风学习资料网

ARTICLE · 1154671

【阿昌AI小课堂11】2-3丨AI是怎么回答你的?每次对话背后的操作大揭秘

【阿昌AI小课堂11】2-3丨AI是怎么回答你的?每次对话背后的操作大揭秘

 ㅤ

“

📌 上节回顾

 ㅤ

【阿昌AI小课堂10】2-2丨AI是如何学习的?小白也能看懂的大模型训练全解析

——上节课,我们打开了AI的「学习档案」:预训练打底、微调塑形、对齐立规矩。

 ㅤ

 ㅤ

 ㅤ

 ㅤ

 ㅤ

01
/
🤔 问一问

 ㅤ

你有没有注意到一个细节:

 ㅤ

每次给AI发消息,它的回答不是一下子「弹」出来的,而是一个字一个字地「流」出来,就像有人在实时给你打字。

 ㅤ

有些朋友可能觉得:这是不是界面做的动画效果,让它看起来更自然?

 ㅤ

其实不是。

 ㅤ

这不是特效,这就是AI真实的工作方式。

 ㅤ

今天我们就来打开这个黑箱:从你按下发送,到屏幕上出现第一个字,中间到底发生了什么。

 ㅤ

 ㅤ

 ㅤ

02
/
📖 学一学

 ㅤ

🌊 它不是在「打字」,它是在「实时生成」

 ㅤ

先说结论:AI的流式输出,是它逐字生成的实时呈现。

 ㅤ

 ㅤ

可能有点反直觉,AI在开始回答你的那一刻,其实还不知道这句话会怎么结尾。

 ㅤ

在2-1节我们知道了AI的文字接龙机制:

它是一边「想」一边「说」的,

想出一个字,输出一个字,再想下一个字,再输出……

 ㅤ

这不是比喻,这就是它字面意义上的工作方式。

 ㅤ

那它具体是怎么「想」出每一个字的?

 ㅤ

 ㅤ

 ㅤ

🔍 打开黑箱:从你按下发送,到它输出第一个字

 ㅤ

我们把这个过程拆成5步,你就明白了。

 ㅤ

 ㅤ

Step 1|接收你的输入

你发送的文字,进入模型。

 ㅤ

Step 2|切成Token

文字被切割成一个个Token。

 ㅤ

“

比如:

「你好吗」可能被切成「你」「好」「吗」,

也可能被切成「你好」「吗」。

这一步是把你的话变成AI能处理的原材料。

 ㅤ

 ㅤ

Step 3|在参数里激活规律

这些Token被转化成数字,在数百亿个参数构成的规律网络里流动。

 ㅤ

“

模型根据你输入的Token组合,在这张规律网络里计算出一个结果:

接下来,最可能出现的是什么Token?

不是一个Token,而是所有可能的Token,

每个都有一个概率。

 ㅤ

 ㅤ

Step 4|按概率抽签,生成下一个Token

模型拿到这张概率清单,然后按概率抽签,选出一个Token,输出给你。

 ㅤ

“

注意:

不是直接选概率最高的那个,而是按概率分布抽签。

概率高的Token被抽到的可能性更大,

但概率低的也有机会被抽到。

 ㅤ

 ㅤ

Step 5|循环,直到说完

把刚输出的Token加回输入,重新执行Step 3和4,生成下一个Token。

 ㅤ

“

如此循环,

一个Token一个Token地生成,

直到模型判断该结束了,输出一个结束符,回答完成。

你看到的那个流式输出,就是这个循环在实时运转的样子。

 ㅤ

 ㅤ

 ㅤ

 ㅤ

🎲 同一个问题,为什么每次回答不一样?

 ㅤ

理解了按概率抽签,这个问题的答案就呼之欲出了。

 ㅤ

既然是抽签,同一个问题每次抽到的路径就可能不同,每次回答自然可能就不一样了。

 ㅤ

这不是AI出了故障,不是它不稳定,这是概率采样的必然结果,是设计如此。

 ㅤ

可以记住这个规律:

 ㅤ

“
  • ㅤ
    开放性问题、创意类问题:

     概率分布比较分散,抽签池里的候选词五花八门,每次抽到的结果差异就会比较明显

 ㅤ

  • ㅤ
    事实类问题:

    概率高度集中在正确答案附近,抽来抽去都差不多,所以两次回答会很相似

 ㅤ

 ㅤ

还有一个更重要的推论:

 ㅤ

既然AI是根据上文来预测下文的,那你给它的上文不同,

它的概率分布就会不同,抽出来的下文也就完全不同。

 ㅤ

换句话说,你问问题的方式,直接影响它给你的答案。

 ㅤ

这就是为什么怎么问比问什么更重要,也是我们模块三要重点研究的。

 ㅤ

 ㅤ

 ㅤ

03
/
🧪 练一练

 ㅤ

理论说了这么多,现在轮到你亲手验证了。

 ㅤ

这节课的实验只有一个动作:把同一个问题,发给AI两次。

 ㅤ

第一步:选一个问题

 ㅤ

实验能不能成功,问题的选择很关键。

 ㅤ

推荐用开放性或创意类问题,

这类问题的概率分布比较分散,差异最容易被观察到。

 ㅤ

给你两个现成的实验问题,直接复制就能用:

 ㅤ

“

🔖 创意类:给我的咖啡馆起三个有意思的名字

🔖 开放类:用一句话描述一下春天

 ㅤ

 ㅤ

当然你也可以用自己想到的问题,只要是开放性的就行。

 ㅤ

⚠️ 温馨提示:

如果你用的是事实类问题(比如北京在哪里),两次回答可能几乎一样,

这不是实验失败,而是因为事实类问题的概率高度集中,抽签池太窄了,抽来抽去都差不多。

 ㅤ

换一个开放性问题,差异就会出现。

 ㅤ

第二步:发送两次,对比观察

 ㅤ

Step 1| 打开你常用的AI工具(任何一个都可以)

 ㅤ

Step 2| 输入实验问题,发送,等待回答完成,把结果记下来或截图

 ㅤ

Step 3| ㅤ不要刷新页面,重新输入同一个问题,再次发送

 ㅤ

Step 4| 对比两次回答:哪些地方不一样?哪些地方相似?

 ㅤ

第三步:解读你看到的差异

 ㅤ

做完实验,你可能遇到三种情况:

 ㅤ

情况①:差异很明显

 ㅤ

“

🎉 恭喜,你亲眼看到了概率采样:

同样的输入,不同的抽签路径,产生了不同的输出。

这就是AI概率性本质的直接证明。

 ㅤ

 ㅤ

情况②:差异很微妙

 ㅤ

“

👀 仔细看,用词、句式、举例的顺序往往有细微不同。

这也是正常的,AI的语感让它倾向于相似的表达方式,

但每次抽签的路径都不完全一样,微妙的差异就藏在细节里。

 ㅤ

 ㅤ

情况③:几乎没有差异

 ㅤ

“

🔄 换一个更开放的问题再试一次。

事实类问题的概率分布太集中,不适合这个实验,

就像让你填「1+1=___」,你每次都只会填「2」,

不是因为你没有创意,是因为这道题的答案空间太窄了。

 ㅤ

 ㅤ

无论你观察到哪种情况,有一件事已经发生了:

你不只是「知道」AI是概率机器,现在你亲眼见过了。

 ㅤ

 ㅤ

 ㅤ

04
/
💭 想一想

 ㅤ

试着填完这句话:

 ㅤ

“

AI回答你,不是在___,而是在___。

 ㅤ

 ㅤ

如果能填出来,这节课的核心认知你已经掌握了。

 ㅤ

填完之后,再想想这个问题:

 ㅤ

“

既然AI是根据上文预测下文的,

你给它的问题越清晰、越具体,它的抽签池会怎么变化?

这对你平时问问题的方式,有什么启发?

 ㅤ

 ㅤ

这个问题,模块三会给你一个系统的答案。

 ㅤ

 ㅤ

 ㅤ

05
/
🔗 试一试

 ㅤ

👁️ 推理模型是怎么深度思考的?

 ㅤ

你现在理解了标准的推理过程,每次回答都是逐Token概率采样的循环。

 ㅤ

但你可能听说过深度思考模式或推理模型,

它们好像比普通模型「想得更深」,这是怎么回事?

 ㅤ

感兴趣的话,

可以用关键词「推理模型的技术原理与应用实践」,自行探索。

 ㅤ

 ㅤ

 ㅤ

“

📌 下节预告

 ㅤ

【阿昌AI小课堂12】2-4丨AI为什么老失忆,上下文窗口是怎么工作的?

——下节课,我们聊一聊,AI的记忆有多长?超出之后会发生什么?

 ㅤ

 ㅤ


注:

1. 本文仅为个人观点,不代表任何机构或组织的立场。

2. 文中部分资料数据来自网络,如有错误,欢迎指正。

3. 文中部分图片来自网络,版权归原机构或作者所有。


 推荐阅读 

#阿昌正传阿昌AI小课堂

【阿昌AI小课堂01】0-1丨开篇:从0到1的AI学习地图

【阿昌AI小课堂02】1-1丨AI极简科普,一句话说清AI的本质

【阿昌AI小课堂03】1-2丨AIGC是什么?AI的「内容工厂」全景图

【阿昌AI小课堂04】1-3丨AI能帮我做什么?普通人的AI场景入口

【阿昌AI小课堂05】1-4丨用豆包制作个人头像,AI工具初体验

【阿昌AI小课堂06】1-5丨AI不能做什么,看懂AI的能力边界

【阿昌AI小课堂07】1-6丨AI工具生态全景:工具是皮,模型是心

【阿昌AI小课堂08】1-M丨AIGC模块通关:恭喜你进入了AI世界的大门

【阿昌AI小课堂09】2-1丨什么是大模型,什么是大语言模型?

【阿昌AI小课堂10】2-2丨AI是如何学习的?小白也能看懂的大模型训练全解析


关注公众号回复【提示词】领【御用提示词】

加阿昌好友备注【AI课程】领【AI入门手册】

相关学习资料