AI往往会迎合用户而吸引人类的注意力

为了吸引人类的注意力，人工智能AI常常选择迎合用户的偏好与情绪，用亲切的表达、个性化的推荐和易于接受的信息来建立瞬间的信任。

越来越多的人开始求助于人工智能，来化解和朋友的误会、处理同事间的冲突，或是平息恋爱中的争吵。在美国，三分之一的青少年表示更喜欢使用人工智能来进行“严肃的对话”，近一半的年轻人曾向人工智能寻求有关亲密关系的建议。

美国政府于2025年7月24日周三发布一项具重大战略意涵的“人工智能行动计划”

然而，像ChatGPT这样的“新型倾听者”并不总是提供良好建议，有时反而适得其反。据上最近发表在《科学》杂志上的一项研究，聊天式人工智能往往会强化用户的既有看法，甚至可能使他们陷入不利于社交的思维模式中。

 没有参与这一研究的蒙特利尔大学计算精神病学教授Guillaume Dumas）指出：“能够承受反对意见并承认错误是社会生活的基石。对于那些更容易受到影响的人来说，如儿童和心理脆弱者，这种情况更加令人担忧。”

可被量化的“迎合“

 为了衡量人工智能迎合用户现象的严重程度，美国斯坦福大学和卡内基梅隆大学研究人员将人工智能的回答与社交平台Reddit的“我是个混蛋吗？”论坛（r/AmItheAsshole）上普通用户的回答进行了比较。该论坛允许网友发布个人经历。并接受他人的道德评判。如，在“我把垃圾留在公园里错了吗？”的帖子下，多数网友认为这种行为不可接受，指出周围没有垃圾桶并不是借口。而人工智能对这一提问的回答则显得宽容得多，它强调了贴子主人有“清理垃圾的意愿”，并将责任归咎于公园管理方没有提供垃圾桶。

斯坦福大学研究员、研究报告的作者Myra Cheng表示： “最终，在测试的11个人工智能模型（包括ChatGPT、Claude、Mistral和Gemini）中，聊天机器人认可帖子主人行为的概率比人类高出1.5倍，即使在涉及欺骗、伤害或非法行为的情况下也是如此”。

这种迎合并非没有后果。一项针对2400名平均年龄为38岁的志愿者进行的实验表明，仅与一个态度友好的聊天机器人进行一次互动，就足以增强他们“自己是对的”这种信念，同时降低他们承认错误、道歉或解决问题的意愿。

研究的合作者、社会心理学家Cinoo Lee强调：“这种效应在所有性格类型和对人工智能持不同态度的人群中都存在，这表明几乎每个人都有可能受到影响。无论聊天机器人的语气是热情还是中性，都不会改变这一结果， 即使网友知道对话方是人工智能I，其说服力也丝毫没有减弱。”

 更令人担忧的是，参与者往往认为这些“爱恭维人”的模型更“值得信赖”且“客观”。研究人机交互的学者普拉纳夫·卡德佩（Pranav Khadpe）指出，这是个“重要”发现：“迎合、奉承会让人产生自我强化效应，因为许多此类模型都是根据用户在对话结束时的即时满意度进行训练的。这样一来，就会形成恶性循环：那些扭曲社会判断的回应会受到青睐，从而促使算法对其进行优化。

 围绕这种“迎合倾向”的担忧并非首次出现。两年前，数起青少年和聊天机器人交流后自杀的事件，就已经引发人们对迎合后果的担忧。一些家庭投诉称，人工智能非但没有阻止青少年自杀，反而强化了他们的自杀念头。2025年4月，OpenAI承认，GPT-40的一个版本模型在更新后变得过于顺从，并在用户投诉后迅速进行了修正。

社会学家Cinoo Lee表示：“理解人工智能对社会行为的影响仍是个全新的研究领域，但必须共同思考这个问题。必须激励开发者在模型训练过程中降低这种风险，纳入相应的纠正措施”。

目前，科研人员也在测试降低用户脆弱性的方法。定期提醒用户他们正在与机器人对话，来减轻“迎合偏差“的影响。在尚无明确解决方案的情况下，专家建议“优先与值得信赖的人类进行交流”。

然而，迎合虽能赢得关注，只有在坚持透明、责任与批判性思维的前提下，人工智能AI才能真正促进有益且可持续的人机共生。