乐于分享
好东西不私藏

在「AI会编造」的时代,教孩子当自己的事实核查员

在「AI会编造」的时代,教孩子当自己的事实核查员

事情是这样的。

前两天一个朋友给我发了个截图,差点没把我笑死。他家娃今年上小学四年级,老师布置了一篇关于中国古代发明的作文。小朋友很自觉,打开手机问豆包,「中国古代有哪些不太为人知的发明」。

豆包很热情,噼里啪啦列了一堆。其中有一条说,北宋时期有一位叫张衡的发明家,发明了一种叫「水运仪象台」的天文仪器,比欧洲早了800年。

朋友家的娃二话不说就往本子上抄。

问题在哪呢。张衡是东汉的,不是北宋的。而且水运仪象台是苏颂发明的,跟张衡八竿子打不着。AI把两个人揉成了一团,编出来一个不存在的人物和时间线。

朋友截图发我的时候配了三个字,救命啊。

我笑了两秒,然后觉得这事儿其实挺严肃的。

因为我们这代人小时候查资料,来源是固定的,课本、百科全书、老师讲的,就算有错也是小错。但现在的孩子,他们第一反应是问AI,而AI最大的问题不是它不聪明,恰恰相反,它太聪明了,聪明到它编东西的时候,比真的还真。

这就是大家一直在说的AI幻觉。

很多人觉得这是个技术问题,等模型迭代几个版本就好了。但我自己的感受是,这个东西可能不会完全消失。因为大语言模型的工作原理就不是「查资料」,它是「预测下一个词」。它在生成内容的时候,其实是在做概率计算,而不是在检索事实。

说到底,它不是在回忆,它是在编。

这个区别大了去了。

人类说谎的时候,知道自己是在说谎。但AI编东西的时候,它不知道自己在编。它只是觉得,这个概率最高,应该没错。所以它编出来的东西,带着一种特别笃定的语气,没有任何犹豫。

你想想看,一个成年人面对这种笃定,都经常被骗,更别提一个十岁的小孩了。

所以我后来认真想了想,觉得与其等AI变好,不如先帮孩子建一套自己的防线。

我跟那个朋友聊了聊,把我自己摸索出来的几个方法分享了一下。也不知道对大家有没有用,但我还是想聊聊。

第一个,交叉验证。

这个最简单也最有效。AI说了一件事,去别的地方查一查。不是问另一个AI,而是去看真正的人类编辑的内容,维基百科、新闻网站、课本。如果AI说的跟这些来源对不上,那就是编的。

我跟朋友说,你教孩子一个口诀就行,叫「三个来源验证法」。AI说了一个信息,至少找一个人写的来源确认一下。不用每个都查,但关键信息一定要查,比如人名、日期、数字这种硬事实。

一开始小孩可能觉得麻烦,查一条信息要翻好几个网页,比直接问AI慢多了。这个很正常,但习惯了之后会变成一种直觉,看到任何信息都会自动多看一眼来源。

第二个,溯源追问。

这个是我在用AI的过程中慢慢发现的一个技巧。当AI给你一个看起来很具体的说法时,你就追着问它,「这个信息的来源是什么」「你是从哪里知道的」。很多时候AI被追问之后会自己承认,「这个说法没有确切的史料记载」或者「这可能不完全准确」。

这招特别好使,因为AI在第一轮回答的时候最自信,你越追它越虚。

教孩子的时候可以这么说,AI说了什么,你就当自己是侦探,问它三个为什么。它要是支支吾吾,那这个信息就得打个问号。

不过说实话,这个方法对小孩子来说有一点点门槛,因为他得能判断AI的回答到底是在真给来源还是在继续编。刚开始的时候大人可以带着一起练,多练几次孩子就有感觉了。

第三个,太完美的答案要警惕。

这个是我自己的体感。我发现AI编的内容有一个特征,就是它特别流畅、特别完整、特别有说服力。真实的世界是毛糙的,信息之间会有矛盾、会有空白、会有争议。但AI编出来的东西太顺了,顺到不像真的。

这个对成年人来说都不容易判断,对小孩来说更难。但可以给孩子一个直觉,如果一个答案太完美了,所有细节都对得上,反而要多看一眼。

坦率的讲,这三个方法不是什么高深的东西,也没有什么技术含量。但我觉得最关键的不是方法本身,而是那个意识。

就是让孩子知道,AI说的不等于对的。

这个意识比任何具体的方法都重要。因为方法是死的,孩子长大以后AI迭代了多少代,具体的验证技巧可能早就过时了。但「不轻信」这个底层习惯,不管技术怎么变,都管用。

说真的,我有时候觉得,AI时代的到来反而逼着我们重新学一样东西,就是怎么独立思考。

以前我们觉得,有了搜索引擎,知识就民主化了。后来发现搜索引擎的结果是可以被优化的,SEO能把垃圾推到第一页。现在又来了AI,它比搜索引擎更聪明,也更会骗人。每一代信息工具出现的时候都说自己能让人更方便地获取知识,但每一代也都提出了更高的辨别要求。

这让我想起尼尔·波兹曼那本书,《娱乐至死》。他担心的是电视让人放弃思考。现在回头看,电视算温柔的,至少你知道自己在看节目。AI的问题在于,它跟你对话,它回应你,它给你一种「有人在认真回答我」的错觉。这种亲密感才是最危险的。

所以教孩子做事实核查员,表面上是防AI编造,底层是在练一种信息时代的生存本能。

这个本能是什么,就是在相信任何信息之前,先停一秒,问一句,这是真的吗。

就这一秒,就够了。

朋友后来跟我说,他那天晚上跟孩子聊了聊AI会编东西这件事,小朋友特别震惊,说「可是它说的好认真啊」。

好认真。

这三个字我一直记着。因为这也正是我第一次发现AI会编造时的反应。它太认真了,认真到你不好意思不信它。

但我们得让孩子知道,认真不等于正确。

这大概是我在AI时代最想教会下一代的道理。

以上,既然看到这里了,如果觉得不错,随手点个赞、在看、转发三连吧,如果想第一时间收到推送,也可以给我个星标⭐~  

谢谢你看我的文章,我们,下次再见。