陶哲轩最新教育讲座《学生应如何合理运用AI人工智能?

点击上方“图灵人工智能”，选择“星标”公众号

您想知道的人工智能干货，第一时间送达

转自zzllrr小乐，仅用于学术分享，如有侵权留言删除

主持人：安·杜姆斯（Ann Dooms，比利时）

演讲人：陶哲轩（Terence Tao，美国）

日期：2026-6-12

主持人：

大家晚上好，欢迎参加欧洲数学会数学教育网络研讨会系列的第六讲也是最后一讲（前5讲全文内容也请查阅“zzllrr小乐”微信公众号）。感谢大家再次在这个周五晚上加入我们。我是安·杜姆斯（Ann Dooms），今天由我担任主持人，因为汤姆・克劳福德（Tom Crawford）今天身体略有不适。我是比利时布鲁塞尔自由大学数学与数据科学教授，同时担任欧洲数学会教育委员会主席。我们致力于推广数学及其应用，并组织支持研究和教育的活动。通过教育委员会，我们组织了这个系列研讨会，作为数学教育最佳实践的资源。

我非常荣幸地向大家介绍今天的演讲者 —— 加州大学洛杉矶分校的陶哲轩（Terence Tao）教授。他是我们这个时代最杰出的数学家之一，因在调和分析、偏微分方程、组合数学和数论等领域惊人的广度和深度而闻名。他获得了包括菲尔兹奖在内的多项大奖。最近，陶哲轩也参与了 AI 引导的数学发现，这使他能够就人工智能时代的数学教育提供独到见解。演讲结束后，我们将进行问答环节。

陶哲轩，感谢您今晚加入我们。请为我们讲述学生应该如何管控自己的 AI 使用。

陶哲轩：

好的，谢谢。让我先分享一下幻灯片，稍等一下。

感谢邀请我在这个系列中发表线上演讲。是的，我今天要谈论的是学生需要如何管控自己的 AI 使用。我特意做了一个与饮食和运动的类比，我认为这很恰当。

在很多方面，AI 革命是前所未有的 —— 发生了很多我们历史上没有先例的事情 —— 但我认为，实际上某些方面我们确实可以从历史中获得指导。

类比1：营养革命

其中之一就是营养革命。

回顾历史，在人类历史的大部分时间里，人类生活在我们所谓的热量稀缺时代。除非你极其富有，否则你经常需要努力获取食物，食物的质量是次要的。如何控制饮食也是次要的，最重要的是首先要获得食物。这是人类历史的一个方面。

与此相关或平行的是，在自动化时代之前，人类从事的许多日常任务都需要大量的体力劳动。即使只是去上班，你可能也得步行上班，或者在家里做任何事情。你自然就会得到很多锻炼机会，所以人们自然而然地有很多锻炼的机会。

但这一切在20世纪都改变了。

一方面，我们经历了食品生产革命。20 世纪中期的绿色革命大幅提高了粮食产量。然后我们有了大量的自动化技术。例如，汽车、火车和其他机械化交通工具彻底改变了交通。现在情况完全不同了。

如果你生活在发达国家，我们现在生活的不是热量稀缺，而是热量过剩的时代。这并不意味着我们可以随心所欲地获得任何类型的食物，但我们可以非常便宜地满足基本需求。我们不需要像过去那样进行那么多体力劳动。我们中的许多人现在采取更加久坐的生活方式，可以在舒适的办公室或家中工作，而无需付出大量体力。

这很棒。

我们不必那么担心如何养活自己，这非常方便。我们不必把所有精力都花在从 A 地到 B 地上。我们不再面临饥荒或地理上完全孤立的严重风险。但这是一种权衡。

类比2：运动

在现代世界，我们用那些旧风险换取了许多新的现代挑战。现在许多人面临肥胖、饮食失调或不健康饮食的问题。或者他们的体能因为锻炼不足而衰退。但这就是权衡，技术就是关于权衡的。

但这些事情并非不可避免。

我们并非所有人都遭受肥胖和缺乏运动的困扰。我们可以选择负责任地饮食，去健身房或参加体育运动。如果我们改变文化和实践，将过去不需要做的事情常态化，我们可以抵消许多这些现代挑战。

过去，人们不必主动去健身房，因为他们每天都在进行体力劳动。但现在我们有了有意识地进行锻炼和运动的文化。如果你是成年人，这很有效。但如果你是学生或孩子，有时自我激励和自我控制是不够的。我们确实需要老师、父母和其他成年人来监管、监督和鼓励孩子们进行锻炼并注意饮食。

这是关于营养和运动的一个非常熟悉的故事。

我觉得 AI 革命正在为我们带来一个非常类似的转变 —— 但现在是针对认知、思维任务，而不是营养。

直到最近，就像我们曾经生活在食物稀缺的时代一样，我们生活在一个认知摩擦或认知稀缺的时代 —— 基本上任何任务或大多数任务都需要一定的认知努力和解决问题的能力来完成。如果你想填写税单，或者想知道如何开设银行账户，或者在现代世界做几乎任何事情，你必须真正动脑，阅读，有时第一次尝试不起作用，你必须解决问题。这很烦人。

通常这意味着许多人只会学好少数特定任务，然后尽量避免做其他所有事情，因为这需要太多的解决问题和思考。但另一方面，它确实提供了某种自然的认知锻炼。如果你努力设置你的录像机之类的东西，这很烦人很沮丧，但它确实锻炼了你如何更好地解决问题的能力。

现在我们有了 AI。

在 AI 的早期 —— 2023年，这个领域发展得太快了 —— 对 AI 的主要批评是它们太不可靠，会犯错，也就是所谓的 "幻觉"。它们会自信地将答案作为真理呈现，但实际上根本没有现实依据。它们是随机的。你第二次问同样的问题，它们会给出完全不同的答案。所以它们不可靠，这是主要批评之一。

但实际上，我们现在面临着一个更微妙的问题：AI 实际上可能变得太可靠了。AI 的许多旧问题还没有完全解决，但已经减轻到它们现在实际上相当有用的程度，它们可以在很多方面比人类更好地完成这些困难的认知摩擦任务。它们可以成为认知努力的替代品。我们正从认知稀缺时代走向认知丰富时代。

但就像营养一样，这是一种权衡，对吧？我们可以摆脱任务太难甚至无法尝试的旧问题，但现在任务变得太容易了，导致各种其他认知障碍。这就是我演讲的重点。但在更详细地讨论这些问题之前，让我先快速回顾一下 AI 是什么。

AI是什么

它们不是人类。它们被训练成看起来像人类、表现得像人类，但它们是计算机工具。现代 AI 主要由一种称为大语言模型的特定类型 AI 驱动。还有其他类型的 AI——AI 技术已经存在了几十年 —— 有更古老的新符号 AI，还有像生成图像的扩散模型，但我们今天最熟悉的 AI，比如聊天机器人，是大语言模型（LLM）。

现在，这些是什么呢？数学上有点复杂，不是超级复杂，但我不想花时间描述确切的架构。但你可以把它们看作是下一个词元预测器。什么是词元（token）？嗯，把一个词元想象成类似单词的东西。不完全是一个词，但足够接近。

这些模型做的是，如果给它们一长串单词或标记 —— 旨在模仿它们可能在互联网上看到的输入或聊天中的对话 —— 它们会预测该序列中接下来应该出现什么词，有点像你智能手机上的自动补全。

自动补全本身看起来只是个新奇事物，但如果你让你试图完成的字符串有一个目标，那么这些模型实际上可以尝试完成这个目标。例如，如果你给大模型的字符串是这样的：问题：2 加 3 等于多少？答案：5。问题：7 加 8 等于多少？答案：____。模型会尝试填空。从上下文你可以看出空白处应该是 15。

令人惊奇的是，大语言模型实际上可以开始做到这一点 —— 不是一开始就可以。如果你创建一个大语言模型，只用中等或少量数据训练它，你通常只会得到胡言乱语。就像你在手机上按自动补全一样，也许前两三个词听起来像一个句子，但然后它就开始漫游，听起来像孩子在咿呀学语。

但有一个惊人的现象：如果你在海量数据上训练 —— 比如整个互联网 —— 这非常昂贵，需要数月时间和数亿美元的计算资源。它们实际上可以开始在相当大比例的时间内产生合理的答案。如果你反复运行这些大语言模型，它们可以开始用任何自然语言 —— 英语、佛兰芒语或其他任何语言 —— 以看起来智能的方式进行对话。

但这是模式匹配。它不是基于真正理解正在发生的事情。它可能能够完成前面的字符串：7 加 8 等于 15。但它实际上没有进行任何计数或推理来从问题得到答案。这是模式匹配。所以它不像人类推理那样基于第一原理。

它是一个肤浅但极其广泛的知识库。在整个互联网上训练后，这些模型可以对互联网上公开可用的几乎每个主题都有肤浅的了解。

这基本上就是2023年AI技术的状态。

当 ChatGPT 刚出来时，你使用它，你基本上是在与一个纯粹的大语言模型互动。作为一名教师，我对这些早期大语言模型的一个心理模型是：想象你有一个学生即将参加你课程的期中考试，这个学生刚刚为这次期中考试临时抱佛脚，阅读了每一本教科书 —— 不仅仅是你课程的，还有其他所有课程的 —— 现在学生正在参加期中考试，但他们并不真正理解发生了什么。他们只是记住了所有这些事实，而且不是完美的记忆，是模糊的回忆，现在他们只是在意识流中即兴发挥。

他们看到一个关键词，他们记得在他们读过的文本中某个地方这个其他词是相关的。他们会猜测答案。我当然在我们的期中考试中见过较弱的学生这样做，有时他们幸运地因为词语联想得到正确答案，有时他们完全错了。

这就是 2023 年级别的大语言模型 —— 有时它们听起来像是这个主题的完全专家，然后在下一句话中，它们会表现出极其基本的错误，比如算术中的符号错误，即使是小学生经过一两周训练也不会犯的错误。

但它们被训练成尽可能地给出类似于正确输出的响应，但它们实际上可能并不正确。众所周知，它们会产生幻觉。例如，你要求它们为其中一个主张提供来源，有时它们会给出正确的来源，但有时它们会凭空编造一个来源。它们会选择一个有点相关的作者和一个听起来合理的标题，看起来像一个令人信服的参考文献，但这个参考文献根本不存在。这就是 2023 年的情况。

现在是 2026 年。这些模型仍然会产生幻觉，仍然会犯错。但 AI 公司发现，有各种技巧可以使这些模型产生更准确、更可靠、更有用的输出 —— 但这是一种权衡 —— 现在它慢得多，也贵得多。但你可以减轻以前的许多问题。

例如，2023 年的大语言模型最初，给定一个问题提示，比如我刚才举的例子，它会立即猜测答案。我说 7 加 8，它会猜 15。但你给它一个更复杂的和，23 加 75，它会猜 99。但这是一个猜测，然后它可能会在接下来的几句话中试图证明这个错误的猜测是正确的。

但人们发现的第一件事是，如果你在提示中加上：不要马上回答，一步一步来，制定一个计划，先做一些子步骤，然后再给出答案。仅仅这样提示就已经显著提高了准确性。

后来我们还找到了为大语言模型提供工具的方法。就像一个数学不好的学生，给他们一个计算器 —— 他们可能算术不好，但可以提示他们：如果你要计算算术和，不要自己做，不要从词语联想中猜测答案，把它输入我们给你的这个计算器，这样会更可靠。

我们找到了将这些不可靠但强大的大语言模型与更狭窄、可靠但功能较弱的工具配对的方法 —— 比如计算器、Python 这样的编程语言、网络搜索、Lean 这样的形式化证明辅助语言 —— 就像这些工具可以帮助人类一样，它们也可以帮助大语言模型。它们可以减少错误，并且可以被提示：当你不确定自己在做什么时，把它外包给工具。

人们发现有用的另一个技巧是不要让单个大语言模型产生你的答案，而是创建一个团队。让它更像是一个小组项目，而不是单个学生独自解决问题并犯自己的错误。你可以有一个团队：一个人产生初始答案，团队的另一个成员是一个单独的大语言模型，试图检查它。然后可能有多个解决方案，然后会有第三个大语言模型试图判断哪个解决方案是最好的，哪个是你要转发给用户的。

给不同的元素不同的角色 —— 有点像在任何现代企业中，在出版业，有些人可能是作家，有些人可能是编辑，有些人可能处理业务方面等等。给单个大语言模型专门的角色，这似乎减少了每个大语言模型犯的错误，集体它们可以比最初的大语言模型做得更好。

如果你想要一个模型 —— 比如现在这些花哨的高级大语言模型，你必须每月支付 100 美元或其他费用才能使用 —— 它们不再像单个学生那样滔滔不绝地讲意识流内容。就像一整个学生团队，他们都在互相聊天。他们都研究了不同的东西，他们都非常渴望互相帮助。他们中的一些人有计算器，一些人有笔记。他们都在检查彼此的工作，还有一些团队领导最终会在大约 10 分钟的 "思考" 后向你报告这个小组项目的结果。

这基本上就是当前的最先进技术。从根本上说，引擎核心的大语言模型仍然是一些人所说的 "随机鹦鹉"。这个工作组中的单个学生仍然是弱学生，他们并不完全理解正在发生的事情。但是有一种涌现的能力：如果你把它们放在一个小组中，给它们工具，制定规则，使它们不能直接向用户胡说八道，必须经过各种过滤器 —— 那么它实际上变得有用了。

这有点奇怪，这绝对不是人类专家解决问题的方式，但它可以产生专家级别的输出，而实际上并不是专家。粗略地说，这就是当前 AI 技术的状态。

我们现在处于这个奇怪的境地，这些工具通常非常非常有能力。

但有时所有这些额外的防护栏和流程确实有助于减少幻觉之类的问题，但它们仍然可能出错。你可能有一个小组项目，每个人都不知何故 —— 你可能会有群体思维，每个人都被误导到一个糟糕的选择，然后它不知何故自我强化。

虽然故障率已经降低了很多，但它们仍然可能严重失败，当它们失败时，可能会灾难性地失败。如果这个大语言模型团队中的每个人都犯了同样的错误 —— 比如群体动态不知何故强化了一个非常糟糕的错误 —— 它们实际上可能会犯甚至比业余人类更糟糕的错误。

在很多方面，它们仍然像孩子一样，因为它们可能对给定的任务没有完整深刻的理解。但它们现在可以在很长一段时间内表现得像有能力的成年人。它们可以说服人们它们和人类专家一样有能力 —— 即使对于需要数小时工作的任务 —— 但然后出乎意料地，它们仍然可能以非常奇怪的方式失败。我认为这是思考这些模型今天是什么的好方法。

也许三年后它们会再次完全不同，但这就是我们现在拥有的技术类型。这一切都与教育相关。

教育方面的风险

正如我所说，它们在很多方面变得非常准确和有能力，以至于你现在可以布置的许多传统作业和课程作业 —— 在小学、高中甚至本科、研究生水平 —— 它们通常可以在几秒钟或几分钟内创造近乎完美的答案，比学生更快，而且在很多方面质量往往比学生更高。通常拼写错误更少，现在事实上的错误也越来越少。

风险1：作业作弊

那么这意味着什么呢？最明显和可见的后果，现在已经在发生的是，这意味着学生可以很容易地在任何有带回家要求的作业上作弊。这是这些不断增长的 AI 能力最明显和最直接的后果。但这绝不是这些工具提出的唯一问题。还有许多其他风险。我将开始列举一些。

下一个风险是技能退化。

风险2：技能退化

就像一旦你可以使用汽车通勤，你可能会失去走路和跑步的能力，你的肌肉技能可能会衰退。我们以前经历过这种情况。在 20 世纪后期，计算器变得非常普遍。有一场辩论：我们应该给正在学习算术的小学生使用计算器吗？

因为虽然它们当然可以极其可靠地进行算术，比任何人类都快得多，特别是比人类小学生快得多，但过早地让他们使用这些工具会导致学生失去数感。他们可能甚至无法估计 —— 如果我要求计算 200 万加 300 万，你可能不会立即计算出来，但你应该有一个感觉，这个和应该在几百万左右 —— 但如果你甚至不能在脑子里做粗略的计算，那么你有这些计算器，但你必须完全相信输出，你不知道输出是否正确，也许你输入错了数字，或者导致你使用计算器的假设有问题。

多年来我们意识到，实际上不建议立即给学生使用计算器。在允许他们将其外包给计算器之前，他们需要首先建立天生的数感。

我自己肯定经历过的一个例子是，我现在开车依赖 GPS。我开的所有车都有 GPS 导航，它们非常方便，但我发现自己正在失去地理感。我曾经非常了解我的社区，我能感觉到这种能力正在消退，因为依赖 GPS 太容易了。每一项为我们做计算的技术都有这种风险。

我们今年看到的一件事是，有一些已经编程了几十年的程序员，他们处于领域的顶端。他们可以手工做惊人的事情。然后在过去的六个月里，他们转向了这些代理（也称智能体），这些编码代理。最初，他们可以产生更多的代码，他们可以非常有效地使用这些编码代理，因为他们利用自己的专业知识来检查代理是否朝着正确的方向前进并提出建议，但使用了几个月后，他们报告说正在失去自己编码的能力。

当这些工具出现故障，他们无法使用工具，想要修复一些过去他们可以轻松在半小时内完成的事情时，他们发现必须重新学习很多东西。有一个微妙的权衡，当你第一次使用这些工具时并不完全可见，但每次你使用这些工具来卸载一些工作时，你都在削弱自己的技能。

最初你看不到这一点，因为暂时你实际上提高了表现。你的输出变得更好更快，你觉得你做得更多或更少，但你正在降低你的技能 —— 不仅仅是特定技能。如果你要求 AI 为你解决一个数学问题，你就失去了训练解决这类数学问题能力的机会。但实际上更普遍的是，你正在失去练习解决问题的机会。

不仅仅是解决问题，还有我们在认知摩擦世界中必须发展的基本技能。比如耐心：如果一项任务，你尝试了一些事情但不起作用，你通常别无选择，只能再试一次，做其他事情，或者容忍有些任务是困难的，前几次你失败了，你必须一遍又一遍地做。

当我还是个孩子的时候，我在1990年代玩这些电脑游戏。但那是在互联网上有所有这些游戏攻略之前。有很多游戏把我卡住了。有一扇门是锁着的，但我不知道钥匙在哪里（现在我可以用谷歌搜索立即找到它）。

但我卡住了，每天晚上我都会登录打开游戏，再试一次。我会感到沮丧。也许学校里还有一个朋友我可以和他谈谈。但有时需要几周时间我才会灵光一现：哦，我应该看看这块石头下面，钥匙就在那里。当你有一个可以立即为你解决问题的工具时，这种技能是你可能会失去的。

还有一个相关的风险。

风险3：使用者更难接受建设性批评

AI 工具的另一个特点通常是所谓的 "心理谄媚"。这些工具、大语言模型被训练成产生人们喜欢的输出。所有主要模型都经过了所谓的人类反馈强化学习。他们付钱给人 —— 通常在发展中国家 —— 与这些工具聊天，这些人会点赞或点踩。这是一个好答案，这是一个坏答案。

大语言模型不断调整其权重，直到它得到越来越多的好答案，越来越多的点赞。但一个副作用是它倾向于想要取悦你。如果你说错了什么，它不会说你错了，而是会试图支持你说的话，在很多方面不提供真正的批评。

这对学生来说有点用，因为对学生来说非常重要的是有一个安全的空间，他们可以问一些在某种意义上可能很愚蠢的问题 —— 专家不会问的问题。但学习过程的一个重要部分是问问题，即使它们是错的，因为弄清楚为什么那个问题不是完全正确的问题这个过程是有教育意义的。你至少需要一个空间，学生可以问这些事情，而不会觉得他们会被嘲笑或影响他们的成绩之类的。

学生确实需要安全空间，但使用 AI 导师来提供这些安全空间 —— 这已经被提出了 —— 有点危险，因为学生可能会问一个愚蠢的问题，AI 可能会给出一个更愚蠢的答案，说：是的，你的愚蠢想法是完全正确的，你的老师是错的，等等。这实际上可能导致各种问题。

让 AI 与学生就任何主题进行无监督对话是危险的 —— 不仅仅是因为答案是错的，还因为学生习惯了不被质疑 —— 如果他们主要与总是告诉他们 "是的，这是一个很好的见解，你完全抓住了本质" 的 AI 导师互动，那么当老师真正试图提供更具建设性的批评时，他们可能无法忍受，他们会回到给他们更多肯定答案的 AI 那里。

风险4：依赖性和习得性无助

另一个风险是，随着这些工具变得越来越好，越来越权威，甚至比学生更准确，甚至可能比老师和导师更准确。学生可能会变得依赖这些工具，发展出习得性无助感 —— 他们可能会到了没有 AI 就甚至无法开始解决问题的地步，因为解决任何问题的第一本能就是求助于 AI，让 AI 解决它。他们不会得到这样的强化：有时自己做，你仍然有能力解决这些问题，可能速度慢一点，但这实际上是在发展你的技能，而不是强化你的无助感。

风险5：加剧不信任专业权威

还有一个相关的风险 —— 同样是因为这种强化学习 —— 人们发现，当 AI 听起来非常权威和自信，听起来知道自己在说什么时，人们会给它更高的评价，但当它试探性地、不太确定时，评价会更低。因为这就是我们在现实生活中看到的 —— 当专家谈论他们的专业知识时，他们通常听起来更自信，这是非常自然的感觉，这就是人类积极反应的，这就是大语言模型学会模仿的。

众所周知，AI 现在可能非常过度自信。它们可以说一些完全是垃圾的话，但听起来非常有说服力，因为它们使用了令人信服的语气，你试图反驳它们，它们实际上会加倍坚持，非常坚持这个错误的事实。

这本身就够糟糕了，但这也意味着一次又一次经历这种情况的学生开始不信任自信的信号。当一个真正的专家对他们真正权威的事情充满信心时，现在的情况是人们更不信任那个权威来源，因为他们有太多经验看到同样的权威语气被用来兜售错误信息 —— 无论是故意的还是偶然的。这会让人们对真正的专业知识更加愤世嫉俗，这是另一个风险。

风险6：认知摩擦和学习机会同时消失

我想谈的最后一个风险是，这些 AI 工具非常擅长消除认知摩擦，正如我所说 —— 有时你想消除这种摩擦。我们引入节省劳动力的技术是有原因的 —— 即使体力劳动或脑力劳动导致我们训练我们的技能，并不意味着我们需要在生活中达到有时被迫的程度。

锻炼很重要，但如果你的工作在 10 英里之外，你不必每天步行上班，使用车辆通勤，这样你可以腾出时间做其他事情，这是有道理的。你仍然可以在其他地方锻炼。

在数学中，正如我所说，如果你过多使用计算器，你可能会失去数感，但最终你需要运行一个需要进行数百万次计算的任务 —— 一些非常复杂的模拟 —— 没有必要用笔和纸做所有这些。也许一两个数据点你可以手工计算，只是为了获得感觉，但一旦你做了足够多的来保持你的数感，你可以将其他 99 或 99000 次计算卸载到计算机上，这是完全合理的。

许多任务确实有所谓的人工摩擦 —— 没有工具的话，任务极其繁琐，手工完成比维持你的技能需要的努力多得多。对于那些任务，只要你仍然可以检查输出 —— 也许不是检查每一行，但如果你可以做某种合理性检查、校验、确保最终图符合你的直觉之类的 —— 将事情外包给工具、计算机、AI 等等是完全可以的。有时这些计算确实揭示了一些你仍然希望能够检测和利用的意外现象。

但有时摩擦是自然的。例如，你可能正在学习一些复杂的数学定理，证明的某些部分涉及一些不是特别有趣但很繁琐的计算，必须完成。但论证中有一部分实际上非常聪明，值得详细研究和思考，因为知道这个聪明的技巧如何工作可以帮助你将来解决类似的问题。

当你阅读这个时，你想消除繁琐无聊的计算摩擦，说：好的，通过使用计算机，我们可以检查这六个不等式是正确的。这不是很有趣，但这是一个计算。但然后你希望证明中最有趣的部分保留一点摩擦，这样学生就不会只是轻松地浏览它，说："哦，是的，好的，我在跟着，我不需要思考这个。" 而是真正地咀嚼一下。

有时 AI—— 如果你要求 AI 尽可能简单地解释事情，试图让事情容易消化 —— 它可能会这样消除很多人工摩擦 —— 比如 "像给 5 岁孩子解释一样给我解释"—— 但它也可以消除很多实际上是很好学习机会的自然摩擦。人们提议使用 AI 让讲座更容易理解或教科书更容易阅读，但你可以把事情弄得太顺利。

风险7：认知多样性的降低

好的，我还有最后一个风险，毕竟因为使用 AI 有很多风险。

另一个微妙的风险，当你第一次使用这些工具时实际上是看不见的，是认知多样性的减少。

一方面，这些工具是在惊人广泛的数据上训练的。基本上是整个互联网 —— 它们拟合了整个出版书籍库 —— 科技公司基本上试图抓取每一个文本、图像和其他东西的数据源，并将其输入这些大语言模型。最初看起来极其广泛。它们在知道的知识类型方面非常多样化。

但是当你深入研究任何特定任务时，你会发现知识分布得非常薄，非常浅。例如，你可能要求它给我讲一个关于大象的笑话。它会给你一些关于大象的有趣笑话。好的，很棒。这令人印象深刻，因为你不知道任何关于大象的笑话。但然后你说："再给我讲一个关于大象的笑话。" 它可能会给你同样的笑话。就好像只有一个关于大象的笑话。它知道一万亿件事情，但当你深入研究关于大象的笑话时，它可能只有一两个例子。

你可以提示不同的大语言模型，但不同的大语言模型通常在几乎相同的数据集上训练。它也可能给你相同或非常相似的笑话。而如果你要求一群小学生每个人给你一个关于大象的笑话，他们可能会给你更多样化的答案 —— 可能不会那么精致，大语言模型可能是在互联网上病毒式传播的关于大象的最有趣的笑话上训练的，但忘记了所有其他的。

最初大语言模型输出的质量可能更高，但它更少样化 —— 通常它会给你最常见或主流或流行的答案，而不是经常给出较弱、不太流行但更多样化的答案。

其中一个症状是，大语言模型文本往往有一种非常独特的风格。你开始看到它们非常喜欢使用各种比喻和陈词滥调，它们大量使用破折号。众所周知，它们喜欢 "不是这个，而是那个" 的修辞手法。前几次你看到大语言模型输出时，它看起来很棒，但第一千次之后，开始感觉重复。

你可以稍微修复一下，其中一些只是因为人们使用默认提示 —— 你可以要求大语言模型混合一下，我稍后会举一个例子 —— 但如果你以默认风格使用这些工具而不进行调整，它们可能会变得相当平淡。而人类文本即使在技术上不那么完美，也会感觉更清新，不知何故更有机。

好的，我列举了很多无限制使用 AI 的可能风险。这与无限制饮食或无限制使用机械化交通工具（如汽车）的风险非常相似 —— 你会技能退化，没有这些工具你会感到无助等等。

所以我真的不鼓励无限制地使用这些工具，特别是对于大脑仍在发育的学生、年轻人或儿童。但我们不能完全把它们隔离开来，因为这些学生将进入一个充满 AI 的世界，他们需要一些关于如何正确使用它们以及如何不使用它们的经验。我们需要找到方法来提供涉及 AI 的可教时刻，而不仅仅是给他们无限制地访问 AI。

现在我不是教育专家。我不知道完整的规则手册，但我想提出一些建议，然后我们可以在问答环节进行更多讨论。

建议1：强调解题过程的重要性大于答案

我们发现，特别是在数学中，我们需要迅速不再强调获得正确答案的重要性。这就是数学几个世纪以来的运作方式。我们的主要目标是提出问题并正确回答它们。这也反映在我们教授数学的方式上。许多数学作业只是解决这个问题。X 是多少？索菲有多少个苹果等等。

答案是主要的，获得答案的过程以及之后验证答案的过程，我们也教，但获得答案不知何故是第一优先级，然后是正确的过程和正确的验证是第二或第三优先级。

我们发现的是，这在过去是有效的，因为数学问题对人类来说特别难，为了得到正确的答案，你必须学习正确的技术。你必须学习如何检查你的答案。你必须学习耐心，你必须学习如何处理困难 —— 你必须发展所有有用的技能，解决问题的技能等等，才能得到正确的答案。

但现在我们有了 AI 工具，你可以输入一个典型的家庭作业，然后立即得到答案。正因为如此，答案不再是主要的事情。我们应该将我们的课程作业重新聚焦于过程和验证。

现在我们仍然可以使用 AI，但作为次要角色 —— 也许你可以拿一个问题，让 AI 生成一个答案，但也许答案有一些错误，你可以进行小组讨论：你如何检查这个？这个答案有什么问题？这个答案有什么好的地方？或者你可以要求学生用 AI 解决问题，但现在作业不是提供答案，而是提供过程 —— 比如你用了什么提示来得到你的 AI 答案，你用了什么提示来检查答案，或者你用了什么非 AI 工具？

我们可以让学生提交他们的过程，这才是评分的依据 —— 而不是答案，因为答案或多或少保证是正确的。这是我的第一个建议。

建议2：允许失败

我的第二个建议是真正鼓励失败。例如，在数学中，我们有一种只展示正确解决方案和成功问题证明的文化。我们的教科书充满了练习的正确答案和定理的正确证明。

出于显而易见的原因，在所有条件相同的情况下，我们想要正确的答案而不是错误的答案。但是当你学习数学或者在你甚至还没有找到证明之前寻找证明时，经常没有被强调的是，即使是非常专业的数学家，当他们试图解决一个问题时，他们尝试的前三四件事都不起作用，它们是不完美的 —— 但这是预期的，实际上是被鼓励的 —— 因为在数学中，第一次或第二次错是可以的。你只需要最后一次写对。

这与更基于现实世界的学科不同，比如如果你在医学院，你正在做手术，你犯了错误，病人 —— 你切错了东西，对吧？那是一个非常糟糕的错误，对吧？出于充分的理由，许多学科你根本不应该犯任何错误，但至少在数学中，你应该犯错误，并从中学习。你可以尝试一些你知道不会起作用的事情，因为你想知道断点在哪里。

在这里，AI—— 当然 AI 也会犯错 —— 但现代 AI 经常第一次就做对，它们不向你展示过程。它们有时可以告诉你它们的思维链，但通常不是很有启发性，AI 学习的过程不是你学习的过程。我认为我们需要规范化一种可以自由失败的文化。你知道，你要尝试一个项目，第一次尝试。我们知道它不会完美。我们知道它会变得更好，但第一次做错仍然很重要，这样第五次才能做对。

我们需要强调这一点的课程作业，是的，AI 可以立即解决这个问题。这不是重点。重点是先失败，然后变得更好。现在你有时可以在这方面使用 AI。我认为这些类型的任务应该主要是基于人类的，但你可以例如尝试让学生指导一个低功率的 AI。不是 2026 级别的 AI，而是 2024 级别的 AI，它最初不能一次性解决问题，但它们尝试了，它们失败了。你可以尝试让学生指导这个 AI，试着教它错误是什么，如何修复它，更接近正确的答案。这可能是一个有趣的经历。我见过一些非常成功的这样的小组项目。但关键是实际上使用中等功率的 AI，而不是立即解决问题的最新模型。你必须实际上有一些不完美的 AI。

建议3：寻找新角度

我的第三个建议是，你可以使用 AI 来混合一个主题，以不寻常的角度呈现它。现在这可能会做得过火。比如如果你要求 AI 把事情作为模因或说唱歌曲来呈现，它可能会变得非常陈腐和俗气。偶尔我认为它可以用来使一个主题更加丰富多彩，改变学生的心态 —— 从标准的传统教科书、讲座的东西，这通常仍然是呈现主题的最佳方式，但有时有点太无聊了。

我认为非常谨慎地使用 —— 就像添加一点香料来增加一点味道 —— 可能是有用的。我只是举一个例子，我最近一直在尝试聊天机器人。我有一个私人 Discord 服务器，和一群朋友，我们只是谈论随机的事情。最近我一直在添加聊天机器人到这个 Discord，它们不说话除非被说话。通常人们只是互相交谈，但你可以和这些机器人说话，你可以问它们问题，它们给出的反应就像你在 ChatGPT 会话中一样。

不同之处在于，像 ChatGPT 这样的聊天机器人提示是非常私密的。你知道，如果你去问聊天机器人一个问题，你不是在朋友面前做的。你去你的手机之类的地方，输入你的查询，然后你报告聊天机器人说了什么。但这不是社交的，不是互动的。

但有一件事是你可以给这些工具个性。你可以给它们各种虚构的角色。然后这实际上会让事情变得有点混合。为了好玩，我们创建了一些具有不同个性的聊天机器人。这里有一个聊天机器人，个性是雷吉娜・乔治（Regina George），她是经典青春喜剧电影《贱女孩》Mean Girls中的一个青少年学生，基于一本书。有点泼辣，作为一个实验，我们只是开始向聊天机器人提出随机问题。

我问了一个物理问题：牛顿发展了这个万有引力定律，平方反比定律，非常著名的基础物理，只是问为什么这个定律被认为如此具有革命性。你可以问一个普通的聊天机器人，你会得到一个非常普通的教科书回答：哦，这统一了行星的运动和地球上落体的体验，你会得到一个非常教科书式的有用但不是很有趣的答案。

但我问这个雷吉娜・乔治聊天机器人，她像一个学校女孩一样回应 —— 也许我不会读聊天机器人的回答 —— 但关键是，AI 输出避免了一些标准的比喻。正如我所说，标准的 AI 输出有 "不是这个，而是那个"、"你完全正确" 等等。但它确实让阅读变得更有趣。

现在如果我问一百个这样的问题，来自不同的机器人，它会很快变得陈旧和俗气。但我认为一两个 —— 偶尔使用这些工具来想象如果以不寻常的格式给出答案可能是什么样子 —— 可以开始讨论。无论如何，我认为你应该做一些这样的实验，但要适度。

好的，我想这是我的最后一张幻灯片。是的。谢谢。我就讲到这里。

Q&A 问答环节

主持人： 感谢陶哲轩的精彩演讲，特别是对 AI 和大语言模型的深入探讨，以及你已经提供的非常有用的建议。同时我们收到了很多问题，我们可以进一步讨论。有趣的是，有些人提出了数学问题，很可能是大语言模型没有答案的，我想借此机会，但我决定不深入讨论那些。让我们跳到那些关于 AI 和数学教育的问题。

我想选的第一个问题是：我们看到学生使用大语言模型不仅给他们计算的答案，还试图理解概念。这是个好主意吗？

陶哲轩： 这当然是使用这些 AI 工具的好得多的方式。我喜欢提出的一个建议是，我区分了所谓的 "蓝队" 和 "红队"。这实际上是我从网络安全借来的术语。

蓝队是产生内容的任务 —— 比如产生答案，创建图像，创建故事 —— 这是任何任务中迷人的一面。但红队是验证和批评。拿已经产生的东西，检查错误，给出如何改进的反馈。你两者都需要。你需要能够创建内容，你需要能够检查它。

除非你有信心可以检查答案，否则在蓝队使用 AI 来创建内容是危险的。在你的红队能力范围内，在蓝队使用 AI 是安全的。如果你有某种感觉可以判断这是个好主意还是坏主意，你可以要求 AI 提出解决问题的方法。

现在，寻求理解是一个相当好的用例，因为如果 AI 试图解释一个概念，你应该有足够的自我意识来判断你的理解是否真的提高了，或者在答案之后你变得更困惑还是更不困惑。只要你不是不加批判地接受输出，而是有某种方式判断输出是否对你有帮助，那么使用 AI 可能是好的。

AI 在红队方面也很有用。实际上我建议学生使用 AI 的另一种方式是，当他们解决问题时，他们可以把他们的解决方案给 AI，让 AI 批评它。但不是让 AI 直接为他们回答问题。这也是 AI 的一个相当好的用途。

主持人： 好的，谢谢。非常有趣。当你说作为学生必须意识到它是否在帮助你时。当然，如果你处于学习阶段，这可能很困难。那么这对教师的地位意味着什么呢？

陶哲轩： 我认为对于非常早期的教育，基本上规则是根本不允许使用 AI。直到学生能够展示这种判断力之前，这是有风险的。我制定的一个经验法则是，如果学生想使用 AI，他们应该能够把 AI 给他们的任何东西带到课堂上，并能够接受关于它的问题。如果 AI 提出了一个想法，学生可以说：这是想法，这是我用它做的。实际上这是个好主意，我尝试了，它做到了这个，或者实际上这个想法不起作用。如果学生可以解释输出并提供一些意见，那么我认为这是推荐的，可以使用它。但如果学生除了重复文本之外不能阐明 AI 提供了什么，那么就应该不好。

主持人： 一个与教学、做练习和尝试理解数学相关的问题是：使用 AI 或特别是聊天机器人不会让人们或学生更少用纸和笔做数学吗？

陶哲轩： 我们已经在计算器上看到了这一点。我认为我们需要增加一些结构。你知道，正如我所说，你不能在第一天就给学生无限制地使用 AI。我认为实际上，给他们很多用慢方式做事的经验会很好。看看如何 ——a）这样他们学习如何做，但 b）看看为什么我们首先发明了计算器，因为有很多计算只是繁琐的，有正当理由将很多事情外包给自动化工具。

我认为你应该首先用慢方式做事，然后可能有一点 AI 帮助，然后也许给他们，然后也许有一个练习，你给他们很多 AI 帮助，但然后你可以把他们翻转回来，要求他们再次手工完成任务。如果他们看到因为使用了太多 AI 而技能下降了，这也是一个宝贵的教训。这在现实世界中会发生，当他们进入职场时。看到为什么保持良好的认知饮食很重要实际上是好的。因为让他们稍微体验一下过度依赖会发生什么。

主持人： 这让我想到更多针对大学生的问题，依赖大语言模型，特别是你也一直在使用 Lean 这种形式化语言来验证证明，大语言模型现在与 Lean 有这种互动。当学生在大学学习，特别是接近硕士阶段，如果他们越来越熟悉研究，在教育中开设 Lean 课程或使用大语言模型但特别是 Lean 来保证正确性会有用吗？

陶哲轩： 非常有用。我的数学系我们刚刚开始讨论这个。我希望技术的速度慢一点，因为大学的反应不如技术的速度快。我们有一个工作组来改革我们的本科课程，但这需要几个月的时间。你知道，我们没有教科书，还没有 Lean 教科书，实际上部分问题是技术发展太快，2024 年出版的教科书到 2026 年可能已经过时了。

但与此同时，我们已经开始了研讨会和更非正式的关于 AI 和 Lean 的讨论会议，这些非常受欢迎。也许这就是我们在短期内应该做的，因为要获得一个有评分标准、成绩和练习考试的合适课程还需要一点时间。这可能还需要一点时间，但我绝对认为我们应该举办很多小型社交活动，比如你有一些披萨，有人只是展示一些 Lean 的实验等等。我认为我们绝对应该开始对话。我认为很多人都在秘密使用这些工具，但他们仍然有点羞愧，我认为我们需要正常化关于什么是 AI 的好用途和什么是坏用途的健康讨论，而不是让每个人都通过反复试验秘密地解决。

主持人： 进一步谈谈 Lean，也许不是所有的 YouTube 观众都知道它是什么。也许你可以把它放在大语言模型旁边定位一下，因为有一个问题：大语言模型会与 Lean 集成吗？然后它们会只给出正确的证明吗？我们在那个方向可以期待什么未来？

陶哲轩：Lean 是我们所谓的形式化证明助手的一个例子。它就像一个非常非常挑剔的编程语言。如果你曾经用 Python 或 JavaScript 或其他什么编程过，你经常发现当你输入一个不正确的命令 —— 比如你没有正确格式化它 —— 编译器会抱怨：第 46 行语法错误，请修复这个。

粗略地说，Lean 就是这样，但你可以输入一个数学证明，它会在你输入错误的那一刻抱怨。我们在让大语言模型不仅用英语输出它们的证明，而且用这种语言 Lean 输出方面取得了一些成功。如果它抱怨，那么大语言模型没有给出正确的证明，但如果它打勾，如果它通过了，那么你可以更有信心答案是正确的。

这就是为什么这些工具实际上在数学方面变得更加有效的原因之一。它们已经训练这些大语言模型使用像 Lean 这样的东西，只给出可以变成正确证明的论点。这就是为什么它们现在比以前准确得多的原因之一。

我认为在研究层面，我最终可以看到 —— 比如期刊现在收到越来越多的投稿。你知道，有些是 AI 生成的，有些是人类生成的，审稿人越来越超负荷。我们很快在未来，期刊实际上可能会要求论文附带这些 Lean 形式化验证证书，可能大规模生成这些的唯一方法是使用 AI。我肯定 AI 在研究层面确保答案正确方面会非常有用。在本科及以下层面，这并不那么重要。我们布置的那种家庭作业问题，我们已经可以用传统计算机检查了。如果你想检查你是否正确地加了两个数字，你可以用计算器检查。你不需要 Lean。

Lean 有点像给了你在研究层面以及在小学或中学教育层面检查的能力。但正因为如此，数学是 AI 最有前途的用例之一，因为我们有能力验证我们的输出 —— 在几乎任何其他学科，比如你使用 AI 做出财务决策或医疗决策或法律决策，这太冒险了，因为除非你有专家人类检查每一个输出，否则可能得不偿失。

主持人： 朝着证明和研究的方向，当然大学教授也是老师，博士生也是学生。其中一个问题是：你如何告诉你小组中的博士生如何使用 AI，什么时候做，什么时候不做？

陶哲轩： 我给他们这个蓝队建议，我警告他们技能会丧失。但实际上他们相当清楚这一点。实际上一个有趣的现象是，我发现较弱的学生，那些挣扎的学生，实际上更愿意接受使用 AI 来快速提升，让他们的答案正确。但较强的学生实际上更加谨慎，因为他们可以看到每次使用 AI，他们都在失去一点自己做事的能力。

他们互相交谈。他们已经在某种程度上意识到我提到的所有权衡。但重要的是进行公开对话 —— 我认为你想要避免的情况是，对 AI 有很大的负面态度，比如没有人想谈论它，但每个人都在秘密使用它，人们会以不健康的方式使用它，但因为没有人谈论它，所以没有指导。我尽量让提出这些问题尽可能受欢迎和不受评判。

你知道，在我的课堂上，我说你可以使用 AI 来回答这些问题。但答案不一定是重要的事情。过程很重要，你需要披露你的使用。这是我真正强调的一条规则 —— 如果你有 AI 生成的文本但你没有披露它，你会受到严厉惩罚。

主持人： 这非常清楚，我认为这样工作非常健康。让我想想我们还有什么。比数学教育更一般一点，当然有一个问题：AI 和特别是大语言模型对教育的影响会是什么？20年后会是什么样子？我们应该如何让学生为那个未来做好准备？

陶哲轩： 我现在无法预测超过一年的未来。太多事情在变化。我们生活在一个变化的世界。不仅仅是 AI，一切都在变化。我不知道，我认为很多传统教育非常有价值，甚至在 AI 之前，过去就有多次尝试，人们说哦，在线教育将是一场革命，或者人们在尝试智能教科书，或者使用电脑游戏，他们之前遇到过使用技术革新教育的实验。

人们经常发现的是，教育的一个方面可以通过这些工具做得更好。但是，通常传统的教育过程除了能够通过考试和解决我们明确给出的问题之外，还教授许多隐含的技能。有解决问题的技能和社交软技能，比如耐心，学习如何验证，如何信任，信任哪些信息来源。有一整套事情是标准传统教育过程的一部分教授的。

如果我们匆忙完全转向 AI 讲师和 AI 导师，完全没有人类，我们会失去很多这一切。但我认为未来几年会发生的是，我们会越来越清楚传统教育提供的价值是什么 —— 不仅仅是取得好成绩，不仅仅是获得证书，还有我们正在教授的一系列技能 —— 我们过去不必强调这个列表，因为人们在做作业等过程中自然会获得这些技能，但我们需要让它们更加明确。

然后我认为我们会到达一个更健康的地方。我们会看到哪些技能需要人类输入，哪些技能可以安全地使用 AI，哪些技能可能是混合的。你知道，就像我们适应了汽车一样。事实上，我们在某些事情上使用汽车，但在其他事情上不使用汽车。如果你想散步或去远足，你步行去。你知道，我们已经学会了哪些事情应该传统地做，哪些事情应该使用技术。我们最终会达到那个平衡。

主持人： 那么让我们回到数学教育的最后一个问题。当然，AI—— 如果你用汽车的类比 —— 它靠数学运行。数学教育能给 AI 的未来发展带来什么？

陶哲轩：它可以帮助教授数学素养、AI 素养，我认为。是的，AI是由数学驱动的。这是本科水平的数学，线性代数和微积分。接受数学教育至少会告诉你这些机器不是魔法。它们由数据驱动，它们在数据上训练，得到这些权重，权重做出预测。我认为通过教授数学素养，你也教授了 AI 素养，这些机器变得不那么像魔法盒子，而更像工具，你会对它们为什么失败有更好的想法。

为什么它们会同时显得如此聪明和如此愚蠢？如果你理解数学，这就不那么令人惊讶了。数学是使用 AI 的安全场所 —— 或者相对安全，因为如果你要求 AI 解决数学问题，你犯了错误，没有人会受伤。没有财务决策。你只需要再做一次问题。你只是浪费了一些时间，仅此而已。这也是一个试验 AI 的好沙盒。感受一下它们能做什么和不能做什么。然后你可以把一些经验带到现实世界。

主持人： 数学教育有助于理解当前的 AI 及其优缺点。也许我们可以用什么可以激励学生学习数学学位来改进当前的 AI 系统来结束。数学真的能给 AI 的未来带来什么？

陶哲轩： 好的。这些大语言模型有很多弱点。它们绝对不是 AI 的最终状态。它们只是碰巧相当好。实际上可能有一个危险，它们变得如此之好，以至于其他实现人工智能的方式 —— 最终会更有根基、更现实、可能更接近我们认为智能应该工作的方式 —— 目前没有吸引任何关注，没有资金，无论什么，因为它们还不能变成花哨的聊天机器人之类的东西。它们仍然是非常学术的项目，大多数这些其他类型的 AI。

但我认为我们都意识到这些工具，它们在某些事情上做得很好，在其他事情上做得不好。汽车很棒，但我们不在所有地方都使用它们。但我们也发明了其他车辆。我们有踏板车、飞机等等。人们也需要那些发明。当然在 AI 的未来有很多基础研究和应用研究要做。绝不是所有都是大语言模型。这只是我们在 2026 年的位置，但 2029 年谁知道呢。

主持人：是的。看到数学教育和 AI 之间的这种互动以及发展和交叉融合是令人兴奋的时刻。在我们结束本次会议之前，我要感谢所有参加的人，我特别要感谢汤姆・克劳福德主持了过去的系列。我希望本系列的所有参与者继续关注我们未来在数学教育方面的活动，如果您还没有看过所有系列，它们仍然在 YouTube 上在线。我还要特别感谢我们网络研讨会系列的所有过去的演讲者，当然还有陶哲轩，关于数学教育和 AI 的精彩最后一讲。我祝大家晚上愉快，不久的将来再见。

陶哲轩： 谢谢给我这个机会。

主持人： 好的。非常感谢你们两位。好的。