【Al入门】AI会做梦吗?聊聊AI的＂幻觉＂是什么欢迎回到三火的AI学习日记。上一篇我们聊了AI的一些基础概念，今天咱们来聊点更有意思的。你有没有遇到过这种情况：问AI一个问题，它答得那叫一个自信满满，结果你仔细一看——全是编的。别急着骂它骗子。今天咱们就来聊聊，AI为什么会"胡说八道"。## 一、那个考试时瞎编答案的同学想象一下，你班上有个同学，叫小智。小智这个人吧，书读了不少，但有个毛病——考试遇到不会的题，他从不留白，一定要写满。比如老师问："《红楼梦》里林黛玉葬花时用的是什么工具？"小智心里其实没底，但他想啊，葬花嘛，总得有个容器。于是大笔一挥："黛玉手持一把碧玉小铲，轻轻将花瓣收入锦囊之中。"老师一看，好家伙，画面感是有了，但原著里压根没这回事。小智不是故意骗人，他是真不知道自己不知道。AI也是这样。你问它"2024年诺贝尔文学奖得主是谁"，它要是没学过，不会说"我不知道"，而是根据自己的"知识储备"，编一个听起来特别合理的答案。这种现象，学术界有个名字，叫"幻觉"（Hallucination）。听着挺玄乎？其实说白了就是：AI在瞎编，而且编得自己都信。 🤔## 二、AI为什么会幻觉？因为它是个"超级接龙玩家"要理解幻觉，咱们得先弄明白一件事：AI到底是怎么说话的。你可以把AI想象成一个玩词语接龙的超级高手。你说"今天天气真"，它接"好"。你说"我想吃"，它接"火锅"。它不是真的"知道"什么，而是在算——根据前面所有的词，下一个最可能出现的词是什么。问题就出在这个"最可能"上。有些问题，答案是唯一的。比如"地球是圆的还是方的"，AI见过无数次"地球是圆的"，所以它闭着眼都能答对。但有些问题，它见过的答案五花八门。比如你让它写一首关于秋天的诗，或者编一个科幻故事——这时候就没有标准答案了，AI只能"猜"着往下接。猜对了，叫创意。猜错了，就叫幻觉。其实AI幻觉的本质，就是它在概率的世界里迷路了。## 三、温度参数：AI的"放飞自我"按钮你可能听说过，有些AI工具里有个叫"温度"（Temperature）的设置。别误会，不是空调温度。🌡️这个温度，管的是AI"有多敢猜"。还是拿小智举例子。温度设得低的时候，小智特别保守。他只会写自己百分之百确定的答案。遇到不确定的，宁可说得干巴巴的，也不冒险。这时候的AI，回答特别稳，特别准确，但也特别无聊。温度设得高的时候，小智就放飞了。他敢于写一些自己只有六七成把握的答案，甚至愿意尝试一些全新的组合。这时候的AI，创意十足，金句频出，但也更容易翻车。你问AI"帮我写一份合同"，肯定希望温度低一点——合同不需要创意，需要的是准。你让AI"帮我写个段子"，那就把温度调高——段子要的就是出其不意，太稳了反而不好笑。所以你看，幻觉不是什么bug，某种程度上，它是AI创造力的副产品。你想要AI有创意，就得接受它偶尔会做梦。💭## 四、创造性和准确性，为什么不能兼得？很多人会问：能不能让AI既靠谱又有创意？说实话，这就像让你班上的小智——考试时既能写出标准答案，又能写出莎士比亚级别创意的作文。不是完全不可能，但确实很难两全。因为背后有个根本的矛盾。准确性要求AI只说它最确定的话。就像你问路，你希望对方告诉你"往前走200米右转"，而不是"你可以随便走走，说不定就走到了"。创造性要求AI敢于尝试不那么确定的组合。就像你让朋友给你推荐一家没去过的餐厅，你希望他说"有家新开的fusion菜，虽然我也不知道好不好吃，但听着挺有意思"。准确性和创造性，就像天平的两端。你往这边多放一点，那边就翘起来了。这不只是AI的问题，人也是一样。你让一个学者写论文，他引用每一句话都要标注出处，严谨得很。但你让同一个学者写小说，你还让他每句话都标注出处？那小说就没法看了。所以，别怪AI偶尔幻觉。那是它在努力给你整点新活儿。当然，整砸了的时候也不少。🤷## 五、那我们该怎么和AI相处？聊了这么多，核心就一句话：把AI当成一个知识渊博但偶尔会瞎编的朋友。它大部分时候靠谱，但你不能完全信任它。特别是那些你也不确定的事情。AI说"某某科学家1823年发明了时光机"，你得心里咯噔一下——这事儿我得自己查查。有几个实用的小建议：第一，重要的事，自己核实。AI写的代码，跑一下看看对不对。AI给的数据，去源头确认一下。AI推荐的方案，自己过过脑子。第二，学会调温度。需要准确的时候，把温度调低（如果工具有这个选项的话）。需要创意的时候，大胆调高。第三，别把AI当搜索引擎。搜索引擎给你的是已有的信息，AI给你的是"生成"的内容。一个是在复述，一个是在创作，本质不一样。用AI最聪明的方式，是让它帮你干活，然后你自己当监工。## 快速复习咱们用一场考试把今天的内容串起来：幻觉，就是那个考试时从不留白、遇到不会的题就瞎编的同学小智。他不是坏，是太想答满了。温度参数，就是小智的"胆子大小"。胆子小，只写确定的答案，稳但无聊。胆子大，敢猜敢编，有创意但容易翻车。创造性和准确性，就像考试的两种题型——选择题要准，作文题要活。你很难在两道题上都拿满分。所以记住：AI会做梦，但你可以选择让它在什么时候醒着。 😴## 关于我，以及为什么会有这个号我是个普通的产品经理。几年前AI刚火的时候，我也就是个围观群众——知道几个名词，但具体怎么回事，说不上来。后来我逼自己去学，去试，去用AI从零搭建一个系统。结果你猜怎么着？我一个人，用了一周，上线了。这件事让我意识到：AI没有我们想象的那么遥不可及。它就是一个工具——一个普通人花几天时间就能上手的工具。所以我想做这个号。我会每天写一篇，从最基础的概念讲起，到工具教程、实战案例、避坑指南。所有内容，保证说人话，保证你看得懂。而且这个号有个特别之处——大部分内容都是AI写的。我负责选题和把关，AI负责执笔。如果写得好，那是AI的功劳；如果写得不好……那一定是AI的问题，不是我的。咱们下一篇见。往期精选 你问我什么是AI？我在教外星人做中餐关注我们 赢得未来无论您有多忙，请花1秒钟时间把它放到你的圈子里！可能您的朋友也需要！谢谢！
夜雨聆风
