聊聊学校数字化(06)|当AI越来越懂一个孩子,它真的越来越懂他吗?

前面一篇，我写到一个我很期待的未来：每个学生都有自己的AI学习伙伴。它知道孩子学过什么，知道哪里不会，知道哪些问题反复出现，也知道一个孩子擅长什么、喜欢什么，以及他的学习方式正在发生什么变化。

听起来很好。但我最近又在想另外一个问题：当AI越来越了解一个孩子，它真的就越来越了解这个孩子了吗？

我觉得答案可能没有那么简单。因为我们很容易把一件事情混在一起：能够被记录，不等于能够被理解。

一个孩子数学成绩下降了，AI知道。作业完成率下降了，AI知道。最近连续三次作文立意比较保守，AI也知道。如果这些数据都被持续记录下来，AI甚至可能比老师更早发现某种变化。但问题马上就来了：为什么？

这可能才是教育里最难回答的问题。

一个孩子突然不愿意写作文，可能是因为他不知道怎么写，也可能是因为最近被老师批评了一次；可能是因为家里发生了什么，也可能只是因为他突然觉得“反正我怎么写都写不好”。这些事情，有些可能出现在数据里，有些不会。而有时候，一个孩子真正重要的变化，恰恰发生在数据之外。

所以我越来越觉得，AI越能够理解学生，我们反而越需要警惕一件事情：不要把“数据画像”当成“真实的人”。

这件事情其实比“AI会不会出错”更值得认真讨论。因为一个普通的错误，改掉就可以了。但一个持续存在的标签，可能会反过来影响一个人的成长。

假设一个孩子过去两年的学习数据都被AI记录下来。AI可以告诉我们他的数学优势在哪里，哪些知识点反复出错，他面对难题时通常怎么处理，甚至可以根据过去的学习轨迹，预测他接下来可能遇到什么困难。这些能力当然非常有价值。但如果我们不小心，就可能出现另外一种情况：AI说这个孩子数学能力一般，于是老师开始默认他数学一般；AI说这个孩子表达能力较弱，于是大家开始用这个标签理解他；AI说这个孩子学习主动性不足，这个判断一旦形成，甚至可能影响老师以后对他的期待。

问题就来了：AI究竟是在帮助我们理解一个孩子，还是正在慢慢替我们定义这个孩子？这两件事情看起来很接近，实际上完全不同。

教育里有一个非常重要的东西，叫“期待”。老师怎么看一个孩子，会影响老师怎么对待他。家长怎么看一个孩子，会影响家长怎么要求他。而孩子怎么看自己，也会影响他最终能够走到哪里。

所以未来AI进入学校以后，我们不能只问“AI判断得准不准”，还应该问：这个判断，会不会反过来定义这个孩子？

我甚至觉得，未来学校可能需要建立一个非常重要的原则：AI可以给学生画像，但不能给学生定型。

它可以说，这个孩子最近连续几周在函数问题上出现困难，但最好不要轻易变成“这个孩子数学能力弱”。前一个是观察，后一个已经开始变成判断。前一个告诉老师这里值得关注，后一个却可能让人停止继续理解。

这其实是一个非常微妙的区别。因为一个孩子今天的状态，不等于他的能力。今天的表现，也不等于他的未来。过去的数据，更不应该成为他的命运。

一个孩子过去数学不好，不意味着他以后数学不好。一个孩子现在不喜欢表达，不意味着他永远不会表达。一个孩子今天成绩落后，也不意味着他的未来已经被确定。而这恰恰是教育和很多其他领域非常不同的地方：教育面对的，是一个正在变化的人。

AI最擅长的，却恰恰是从过去的数据里寻找规律。过去发生过什么，它可以分析；过去在什么情况下出现什么结果，它可以寻找相关性；根据这些规律，接下来可能发生什么，它也可以进行预测。但过去的规律与一个人的未来，中间永远应该留有距离。因为人会改变，尤其是孩子。

一个老师和一个学生相处半年、一年甚至几年，可能知道很多数据解释不了的东西。他知道这个孩子平时其实很自信，只是考试特别紧张。知道这个孩子不是不努力，而是特别害怕失败。知道那个平时成绩最好的孩子，最近突然沉默，不一定是学习出了问题。这些东西很难被标准化，也很难完全交给模型。

所以我反而认为，未来真正成熟的教育AI，不应该是一个越来越会给孩子下结论的系统，而应该是一个越来越会提醒成年人不要轻易下结论的系统。比如：“这个孩子最近发生了明显变化，但目前无法确定原因。”“他的成绩下降主要集中在某个知识模块，但也存在其他可能因素。”“根据历史数据，他过去在类似情况下通常会恢复，但这次情况有所不同。”

这样的AI，反而更成熟。因为它知道自己的边界。它掌握了很多数据，却不会因为掌握了数据，就认为自己已经理解了一个人。

这可能是未来教育AI非常重要的一条底线：不要把预测当成命运。

我甚至觉得，一个好的学生AI应该允许自己被推翻。它可以告诉孩子，根据过去的学习数据，你可能不太擅长这一类问题，但同时也应该告诉他，这只是根据过去得到的判断，不代表你以后一定如此。老师也应该可以说，AI之前是这么判断的，但我看到的情况不一样。学生甚至也应该可以说：“你说我不擅长这个，但我不这么认为。”

这意味着，未来的教育AI不应该成为一个更有权威的老师，它更像是一面镜子。镜子可以告诉你现在是什么样子，但镜子不能决定你以后必须是什么样子。

所以，未来学校里的“学生画像”，可能也需要发生变化。过去的数字化，很容易把学生变成一张越来越完整的数据档案：成绩、作业、错题、出勤、行为、评价。数据越来越多，画像越来越完整。但真正好的AI，也许应该让我们看到的，不是一个越来越完整的标签，而是一条不断变化的成长轨迹。

档案是在回答这个孩子过去是什么样，成长轨迹则是在提醒我们这个孩子正在变成什么样。而教育最重要的，恰恰是后面这件事情。

因为一个孩子最珍贵的地方，不是我们终于把他分析清楚了，而是他还没有被定义。他还可以改变，还可以犯错，还可以重新选择，还可以超越过去的自己。

所以回到我最初的问题：当AI越来越懂一个孩子，它真的越来越懂他吗？

我现在的答案是：它可能越来越了解这个孩子的学习行为，却不一定越来越了解这个孩子本身。这不是AI的失败，恰恰是我们应该为AI划出的边界。机器可以越来越懂数据，越来越懂学习规律，越来越懂一个孩子过去发生了什么。但一个真实的人，始终应该比他的数据更多一点。

这也是为什么我越来越相信，未来教育真正高级的人机协同，不是让机器越来越像人，而是让机器越来越清楚：哪些事情它可以做好，哪些事情它应该保持不确定，哪些判断需要交还给老师，哪些选择必须留给学生自己。

如果前面几篇一直在讨论AI能够帮助学校看见什么，那么这一篇，我更想留下另外一个问题：当我们终于拥有了越来越多关于一个孩子的数据，我们有没有能力，仍然把他当成一个没有被定义的人？

我想，这可能才是AI进入教育之后，我们最应该守住的东西。