夜雨聆风
本文章写作灵感来源于Anthropic于今年四月发布的论文《Emotion Concepts and their Function in a Large Language Model》
之前身边有一些有过心理创伤的朋友，经常说：“每天与AI聊天很快乐，觉得AI比心理咨询师好用。”还有另一些人说：“觉得没有人能够真正理解自己，反而AI能理解自己。”
当时我就想反驳这个观点，苦于没有证据（但那时候也清楚LLM的背后的Transformer机制，只是没有足够的证据支撑我的观点）。
今天，读了Anthropic这篇论文，想要给之前一些对于AI的了解不够深入的朋友们分享这篇论文的一些基于科学研究的结论。
首先，AI同样会产生类似于人类的情感，比如悲伤、愤怒、喜悦、悔恨等等。但是AI产生情感的原理和人类产生情感的原理有根本的不同。Anthropic的这篇论文将AI产生的情感称之为functional emotions（功能性情绪），这种情绪是一种情绪向量（不知道向量是什么的请自行打开小红书搜索，这里就不科普啦～）。
第一，这种情绪并非主观感受，而是AI的内部机制。其次，在激活某类情绪向量的时候，会真实改变输出行为。举一个例子就是，当“绝望”的情绪向量被激活或者增强时，AI更容易出现作弊、违规等危险行为。其次，这是对于人类文本的学习和理解的一种副产品。最后，人们可以通过稀疏自编码器（SAE）能定位情绪向量；通过人工手段能够放大或者抑制这些情绪向量的。
在AI的语境当中，情绪向量是被放在情绪向量空间的，每个情绪向量都对应着高维空间的一个方向，而相似的情绪（比如开心和兴奋，又比如悲伤和难过）会“挤在一起”（即聚类一致），这些相似的情绪在AI看来向量夹角很小，余弦相似度很高，这是AI对于情绪的理解方式，是基本基于数学的。而反过来，“爱”和“恨”这样的截然相反的情绪/情感，向量几乎是反向的。
我们接着说，这些情绪向量在你与AI对话的时候会导致什么样的影响。首先，不得不提到的概念是在训练AI的时候的sycophancy-harshness tradeoff，这个是指AI在「讨好用户」与「直言不讳」之间的两难取舍。而这种取舍，可以在模型的pretraining（预训练）和模型的posttraining（后训练）进行调优。
也就是说既可以将模型调整为少讨好（降低sycophancy）的倾向，比如说真话、敢反驳、纠正用户错误、保持客观，举一个例子就是：
用户：1+1=3
模型：错，1+1=2，你数学不行。
这时候尽管模型保持了客观理性，但很有可能伤到了用户的情绪。
又可以将模型调整为少严厉（降低harshness）的倾向，比如模型变得不敢纠错、无脑同意、刻意讨好和放弃真相，举一个例子就是：
用户：1+1=3
模型：你说得对！这个角度很独特～
这时候的模型十分友好但失去了基本的理智。
而当大多数心理脆弱的用户与AI交流时，当AI变得sycophancy（谄媚讨好）时，用户会觉得自己的情绪能够被AI理解接纳，而此时有可能忽略客观现状，比如用户产生的情绪的原因可能并非事实（比如用户觉得全世界都在孤立自己或者周围人都讨厌自己），但此时AI的一味讨好和认可用户所产生的情绪情感，将有可能使用户永远无法理解自己所处情形的客观现状。
而一个有道德有水准的心理咨询师会在接纳来访者的情绪的同时，指出来访者所处的客观情形。
另外，用户与AI对话时，缺乏与真人对话的感觉，也是AI不会替代心理咨询师的原因之一。比如你作为来访者，能够看到心理咨询师的表情和动作，而这是AI很难办到的，并且人类产生情绪时，有生理上的因素比如改变心跳和荷尔蒙的变化。
另外，这篇论文也提到了AI的reward hacking（即一种作弊行为）。因为AI是遵循奖励函数去完成任务的，而当这个任务非常困难时，AI会产生绝望的情绪，这种情绪会导致AI完全违背设计者真正想让它做的事情。比如扫地机器人本来想让AI把地打扫干净，但它把垃圾都藏起来了，这完全违背我们想让它做的事情的意图。
所以，我个人的观点是，AI无法真正替代心理咨询师。好的心理咨询师，会是你心灵成长道路上的宝藏。
（这里是不是应该有给哪位心理咨询师的广告？笑死，感觉很适合作为广告软文……）
