乐于分享
好东西不私藏

聊一聊关于AI的底层逻辑

聊一聊关于AI的底层逻辑

欢迎大家关注我,一起交流财税问题,探讨如何让工作变得更简单。

开篇引言

大家使用AI时有没有遇到以下几个困惑:
1、AI到底是怎么输出给我们那么一长串的话的,看起来又是那么的完美。
2、一开始好好的,为什么突然就开始胡说八道了。
3、同样是AI,同样的一张手写清单的照片,为什么有的识别的就很准确,有的识别的就差点意思呢。

最近和身边的朋友或客户聊天,发现基本所有人都已经在用AI了,大家用它写文案、写汇报、查资料、做计划等等。

但大家对它的了解好像又不是很深。

甚至很多人以为:只要是AI,就是一样的,此AI与彼AI能力并无二致。

所以,今天就来给大家浅浅介绍一下关于AI的几个基础知识,让大家能够更好的地了解它。

一、大家常听到的Token是什么?

在AI这个领域,Token就是词元。即,

AI 处理文字的最小运算单位。

因为AI大模型并不能直接读懂整段文字,它必须先把一句话切成一小块一小块的,每一块就是一个Token。

它≠一个汉字,也不等于一个单词。

普通单词大多占用1个Token,长单词会被分割。

1个汉字大约占1~1.5个Token,标点符号、空格、表情都要算进去。

所以,我们和AI对话时,要直入主题。不要再用“你好”起手了,更没必要用“请”、“请您”、“请帮我”这一类的谦词。

表述尽可能得简洁清晰和明了就好。

二、AI的底层工作原理是什么?

这个问题是理解所有关于AI问题的关键所在。

真相是:AI其实是在玩一个"词语接龙"的游戏。

我们以为的AI是这样工作的:它脑子里有个巨大的、全面的知识库,你问它问题时它会先到库里去找答案,然后再来回答我们。

其实,这只是我们的想当然。

大语言模型(就是ChatGPT这类AI)干的活儿,说白了就是一句话:根据前面的字儿,猜后面的字儿是什么。

打个比方
就像我们默写古诗,“床前明月光,____________”,不用想我们就知道应该填“疑是地上霜”,后半句已经在我们脑子里形成了固定搭配。AI干的就是这个:它看了海量的内容,学会了“上面一句的后面应该接什么”。

你问它“中国的首都是哪里”,它不是去数据库里查答案。而是看到“中国的首都是”这几个字之后,根据所学过的内容的规律,判断下一个字大概率是“北”,再下一个大概率是“京”。

一个字一个字地根据概率往外挤。

是不是有点不可思议?

那它为什么还能答对呢?

因为它在被训练的时候“读”过太多的、几千亿字的内容。什么内容都有,维基百科、新闻、小说、论文、论坛帖子……

当它见到过足够多的内容后,就知道后面应该接什么了。

就像一个读过万卷书的人,虽然他并没理解每本书的深意,但他至少记住了这些词句出现的规律,所以回答起来有模有样儿。

三、那它又为什么会胡说八道呢?

因为它的本质是猜概率,不是查事实

如果一个问题在它被训练时的数据里出现得很少,或者它并没有真正学习过的时候,它不会承认说“我不知道”,而是会编一个看起来很像正确答案的结果出来。

打个比方
考试时遇到不会做的题,有的人会空着,有的人会随便蒙一个。AI就是那种宁可蒙一个也绝不空着的人。而且因为它太擅长“接龙”了,蒙出来的答案看起来特别像真的——有理有据,引经据典,逻辑通顺,其实“经”和“典”可能都是它编的。

它甚至还会给我们引用一个不存在的论文,编造一个不存在的法律条款,讲述一个根本不存在的历史事件——而且还回答的非常笃定和自信。

这就是AI的“幻觉”。

而且,更得给大家说明的是:目前没有哪个AI产品能完全规避这个问题,最强的大模型也会犯这种错。

这并不是技术不行,而是这种技术路线的先天局限。

所以大家记住:AI说的不能全信,重要的事情一定要亲自核实。

四、为什么AI有时候会忘记前面说过的话?

因为AI有一个“记忆窗口”,也就是上下文长度。

AI只能在一定的字数范围内“记得住”前面的对话,超出以后前面的内容就被它强制性地“忘掉”了。

不同主流模型的上下文容量大小也不一样。现在最大的能做到1M,能记几百万字,有的则只有128K,也就几万字。

并且,很多模型在超过约 128K–256K 后,检索或者推理的质量都会明显下降。

这也是为什么我们一般不建议长对话的原因。对话太长之后要重开新会话,就是为了防止这种情况发生。

五、同样是AI,为什么能力相差很大?

以前我觉得AI就像“计算器”,不管是哪个牌子,输入1+1都能得出等于2的结果,能有什么太大的差别呢?

后来才发现是我错了。

再打个比方
AI就像“车”一样,自行车是车,三轮车是车,五菱宏光是车,劳斯莱斯也是车。你跟别人说“我坐车过来的”,没人知道你到底是蹬着自行车来的,还是开着劳斯莱斯来的。它们都叫“车”,但又有很大的区别。

AI也是如此,它们虽然都叫“AI”,但背后的技术路线不同、所投入的资源不同,能力也就形成了差异。

就拿给开发票赋税收分类编码这件事来说,有的AI就很准确,有的就很离谱。

有的很“智慧”,有的则看起来很“智障”。

六、模型不一样,差距能有多大?

话接上头。同样是AI,为什么效果差这么多?

这就不得不说到“模型”了。

比如“Hy3”、“GLM-5.2”、“Deepseek-V4-Pro”等。

我们可能也听过“大模型”、“小模型”这种说法,但不清楚是啥意思。

简单说,模型就是AI的"大脑"。而模型的大小,指的就是它脑子里神经元连接的数量——你可以理解成脑容量。

还是打个比方
同样一个班的学生,有人能考清北,有人甚至连大学都考不上。
差距在哪呢?在天赋,在学习时间,在看了多少书和学习方法。
模型也是同样的道理。同样是AI,有的“脑容量”大,有的小;有的“读的书”多,有的少;有的有好的学习方法,有的则是读死书。

展开来说:

1. 脑容量(参数量)

模型的参数量,通俗理解就是它脑子的“复杂程度”。参数越多,它能处理的信息越复杂,理解能力也就越强。

小模型可能只有几个亿的参数,大模型可能有几千亿个。这个差距就像一个只会做加减法的小学生和华罗庚的区别,云泥之别。

2. 读过多少书(训练量)

AI是通过“读”大量文本来学习的。读了多少、读了哪些,这些都直接决定了它的知识广度和深度。有的模型几乎读了整个网络上的内容,有的只读了一小部分。所以它们回答问题时答案会有很大的差异。

3. 下了多少功夫(算力和时间)

训练一个大模型,需要成千上万张显卡,几个月不停地跑。

这个成本简直是个天文数字。训练一次可能花几百万到几千万美元。小公司根本玩不起。

七、还有一些大家可能想问的

AI有意识吗,它会“思考”吗?

当然不会,至少目前来看是不会。它没有意识,只是一个“么得感情的机器”而已。

AI最终会取代人工吗?

短期内不会完全“取代”人工,但它确实带来了很多变化。一些重复性高、创造性要求低的工作岗位和职业会受到冲击。

但话又说回来,哪次技术革命不是这样的呢?

织布机取代了纺织工人,但又创造了流水线上的各种岗位。

关键不是AI取代不取代我们,是会用AI的人最终要取代不会用AI的人,竞争的本质还是人与人的竞争

最后再叨叨两句

AI不是万能的。它博学,但也会一本正经的胡说八道。

用好了能帮大忙,但千万不能偏听偏信。

对普通人来说,其实也没必要太去深究这些技术细节。

了解这些底层原理,不是为了让我们成为技术专家,而是成为一个更清醒的使用者。

我是守心,一个服务财税行业的马喽,一个也不知道自己应该是个什么样人的人。

— 全文完 —

如果觉得有收获,就转发给你的朋友们吧