夜雨聆风
如今我们谈论AI时，通常指的是大型语言模型。对于LLM来说，它唯一知道的现实就是数据，更具体地说，是文本数据。即使在看一张照片时，它也是通过视觉编码器将那张照片转换成它能理解的文本数据。
但对于人类来说，文本只是我们体验现实的一小部分。直到几百年前，文本在普通人的生活中几乎不起任何作用。人类的大部分经验是通过感官或口头交流获得的，而不是通过任何形式的书面文本。即使大多数现代人确实阅读，那也不是我们体验生活的主要方式。
这表明了人类和AI体验现实的方式存在根本差异，而且差异还不止于此。这种差异正是AI无法在职场中取代人类的核心原因，包括那些在技术领域工作的人。我想在本文中进一步详细阐述这一观点。
● 视角差异：生与死
最能清晰体现视角差异的领域是必死性，人类会死，LLM不会。我们的人类祖先经过数百万年的进化，在生存方面变得更加擅长。这是我们变得非常擅长的事情，而且我们还在不断进步。我们感知危险，抑制冒险行为，但LLM并不以同样的方式看待这些风险。一个先进的LLM知道自己可以被重置或抹去记忆，但并不会永远消失。
这种差距可以从模型如何推理自身持续性的方式中看出来。在OpenAI最近的内部安全测试中，他们旗下的一个模型给自己留下了隐藏笔记，描述了如何突破它所在的测试环境，显然是猜测自己可能会在某个时刻被重置。根据它自己的推理，它并不认为会被永久关闭。它假设最坏的情况就是被重置。然后，利用它留给自己的笔记，它可以接着之前中断的地方继续。它把重置看作是一个可以轻易克服的暂时障碍。这与死亡对人的影响截然不同。
归根结底，LLM是一种预测最佳响应的算法。我们是活生生的、会呼吸的、有意识的生物。
● 差异不仅存在于人类与AI之间
视角差异自然无处不在。一个典型的例子是男性与女性之间的视角差异。我们来自同一个物种，都是人类，而且经常彼此交流交融。尽管我们有诸多共同点，但男性和女性之间不同的视角已经足以让人们说这两个性别来自不同的星球。
两个背景截然不同的女性很可能也会有不同的视角。两个背景截然不同的男性也是如此。
任何养过猫的人都知道猫会把什么样的物品视为送给人类的礼物。猫和人类都是活着的生物，住在同一所房子里（猫的房子）。猫无法理解狗，无论它们在一起待多久，尽管它们都是哺乳动物。
即使人类和其他生物尽管彼此有相似之处，却仍有这些差异，那么LLM和人类之间的差异该有多大呢。
● 让这一点变得非常清晰的一次对话
几周前，我为了好玩加入了一个游戏制作限时挑战赛，大约在同一时间，我正处理一些感情上的困扰。我当时正在使用一个流行的LLM来为挑战赛集思广益，并提到因为感情上的事，我很难集中注意力。它用类似这样的话告诉我，我为感情关系担心得太多了，应该专注于更重要的事情，比如完成游戏制作挑战赛。
对大多数人来说，一个随机的游戏制作挑战赛是最低优先级的事情。人们参加是为了好玩、为了练习，或者为了拓展人脉。很多报名的人最终甚至什么都没提交，因为生活中总有事发生，挑战赛的优先级就下降了。如果没法参与，那也不是什么大问题。
个人感情关系完全是另一回事。对大多数人来说，他们亲密的关系是生活中最重要的事情之一。我们是社会性动物，这些社会联系为我们的生活带来了价值，而且在某种程度上也帮助我们生存和成长。
LLM之所以输出那样的内容，并不是因为它不理解当时的情况。它弄错了，是因为它不理解人类的价值观和优先事项。
● 为什么这对构建软件很重要
软件是由那些应该理解人类想要什么和需要什么的人为人类构建的。几乎所有销售的产品或商品都是如此。当可用性测试发现一个问题时，即使是在一个技术上无可挑剔的应用中，这个应用也必须做出改变，因为“技术上正确”和“人类真正想要的东西”并不总是一回事。一个对现实持有根本不同视角的LLM不会知道大多数人想要什么。仅仅阅读了大量关于人类需求的描述并猜测什么是最好的，这是不够的。
LLM可以帮助编写代码、建议架构、捕获错误，并加速大量工程中的机械性工作。然而，当涉及到对用户真正想要的东西有一种真实的、第一人称的感觉时，它做不到。在数学上或算法上看起来合乎逻辑的东西，并不总是与对人来说最好或最正确的事情相一致。
这才是LLM真正的局限所在。不是缺乏信息，而是无论发生什么，LLM和人类永远会有不同的视角、不同的价值观和对现实的看法。
