乐于分享
好东西不私藏

AI和它的“驯兽师”

AI和它的“驯兽师”
点上方蓝字关注「望杏职场观察记
文|望杏
全文共1762字,阅读约需5.5分钟

我记得前段时间看英伟达黄仁CEO勋的访谈,对于ai能否取代人类他毫不担心。

其实不仅仅是他,很多ai这个行业的从业者,高级工程师都不太把ai当圣体,只是我们普通人觉得ai特别牛,好像将来真的能够取代人类统治世界。

那为什么会这样呢,我今天就来解答一下这个问题。

AI不是天生聪明!是上千万次反复刷题,才换来你看到的智能

不是工程师写一堆代码,它就直接开窍

真正的AI,更像一个疯狂刷题、反复改错、持续进化的超级学生。

我们现在使用的大模型,普遍要经历几十万、上千万次甚至上亿次的训练迭代,才有了现在的应答能力。

今天用普通人完全听得懂的大白话,拆解AI完整的成长全过程。

01第一步:给AI准备全世界的课本”——数据清洗

人想读书,先要有书;

AI想学习,先要有数据。

在正式训练之前,团队会收集海量合法公开数据:

书籍、百科、论文、新闻、优质文章、正常对话内容等等。

但原始数据是杂乱的,像一堆混着垃圾的旧书堆。

所以第一步要做严格清洗:

删掉广告、乱码、重复内容

剔除错误、偏激、违规、低质内容

统一格式、修正语病

数据,决定了AI的底色。

数据干净、优质、全面,AI说话才靠谱、有逻辑、三观正。

最后,机器会把所有文字,转化成它能看懂的数字向量

相当于:把人类语言,翻译成机器语言。

02第二步:千万次训练预训练——AI真正的寒窗苦读

这是AI最昂贵、最核心、耗时最久的一步。

它的学习逻辑超级简单:疯狂做填空题。

机器不断读取海量文本,反复练习一个任务:

根据上文,预测下一个字、下一个词是什么。

举个最简单的例子:

床前明月____”

AI通过无数次学习,不断推算:下一个最合理的字是

每读完一小段数据、预测一次、纠正一次错误,

就记作一次训练步数。

现在市面上我们能用的通用大模型们的训练次数如下

小模型:几十万次训练起步

主流大模型:千万次迭代打底

顶级超大模型:上亿次训练

在这个过程里,模型内部数十亿、上万亿个参数

会一点点微调、改错、优化逻辑。

不是学一遍,是反复学、反复错、反复修正。

显卡集群日夜不停跑几个月,才有了基础认知:

懂得语法、懂得常识、懂得逻辑、懂得人类基本语言规律。

这就是为什么大模型训练成本极高:

电费、算力、机房、人力,全部是天价投入。

03第三步:监督微调——会写字变成会聊天

经过预训练的AI,其实还很笨。

它只会疯狂续写文字,不会好好回答问题:

啰嗦、跑题、答非所问、语气怪异。

所以需要第二步打磨:监督微调SFT

团队会准备海量的「人类高质量问答」:

用户提问人工精修标准答案

AI专门学习:

人问什么,就精准答什么,语气温柔、通顺、贴合人类习惯。

这一轮属于精细化打磨,

训练量一般是几十万轮级别,

目的只有一个:

AI只会码字的机器,变成听得懂人话的助手

04第四步:人类对齐训练——AI懂事、靠谱、有底线

如果只学知识,AI会不分好坏、不分对错、毫无底线。

最后一步,就是价值观对齐RLHF

(RLHF = Reinforcement Learning from Human Feedback,中文叫 “基于人类反馈的强化学习”)

1.人类给AI的回答逐条打分

2.区分:优质回答、普通回答、劣质回答、违规回答

3.训练专属打分模型,自动评判好坏

4.AI主动优先学习高分回答、杜绝低分内容

经过几十万轮对齐训练后:

AI学会了——

拒绝违规提问

不偏激、不造谣

温柔耐心、逻辑正向

懂得尊重、懂得边界

我们感受到的AI温柔、克制、靠谱,全是这一步训出来的。

最后总结:AI的聪明,全是出来的,软件工程师就是ai的驯兽师

你可以简单记住一句话:

数据是课本,预训练是千万次刷题,微调是矫正说话,对齐是塑造人品。

我们每一次顺畅对话、每一次精准解答、每一次好用的辅助,

背后都是:

海量数据千万次迭代 巨额算力 无数工程师打磨

AI不是天生智能,

它是人类用极致的耐心和算力,

一点点出来的超级学生。

所以你明白为什么ai行业从业者,不太担心ai会取代人类了吧。

你调教了几十万次甚至上千万次的学生,你会觉得它很聪明吗?

所以工程师们很清楚,他们就是代码,就是机器,是通过无数次训练才换来今天的智能。

只不过因为科技进步,算法算力突飞猛进,他们的训练速度也极速飞跃。

END
 若喜欢本文,请点赞+关注‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍
-点击下方卡片关注我,收获更多诚意好文-
输出一些对人生、对职场、对社会的个人观点,如果意见相左,欢迎评论区友好交流。不定期更新,怕错过的可以关注我。