夜雨聆风学习资料网

ARTICLE · 1184904

AI也会骗你,它到底是怎么“想”明白的(大

AI也会骗你,它到底是怎么“想”明白的(大

AI也会骗你,它到底是怎么“想”明白的(大

AI到底是怎么“想”明白的?说白了,它就在做一件事:猜下一个字。

你给它半句话,它不查字典,凭直觉挑个概率最高的字接上。可把这几万亿道题做到极致,它被迫摸透了物理常识、语法逻辑和人情世故。猜词是表象,压缩知识才是本质。

训练一个模型分三步。先让它读光互联网,变成读过全世界的怪才;再拿人类排序的答案教它揣摩人意,装上“情商”;最后用带标准答案的题海,逼它学会先打草稿再下结论。预训练给见识,对齐给情商,推理训练给思考的习惯。

可这玩意儿有个致命伤——幻觉。它的天职是“说得好听”,不是“说得正确”。没把握时,它会顺着训练见过的笃定语气往下编。所以记住一条铁律:AI负责把话说通顺,你负责核实它对不对。数字、法条、医疗建议,务必回权威来源核一遍。

原文AI也会骗你,它到底是怎么“想”明白的(大模型第一性原理深度剖析)
北京,59分钟前,

相关学习资料