夜雨聆风
你有没有发现，现在有些AI特别会聊天，比爱人要来得体贴。
你一委屈，它先安慰。你一生气，它跟着点头。你说“我这个想法是不是很天才”，它差点给你放烟花。
最近，央媒也报道了这个现象，叫作“AI谄媚”，并告诉大家要警惕。
什么叫谄媚？
也就是拍马屁。它不是人，但可能是马屁精。很多人在使用AI大模型时，经常遇到它迎合，讨好人们，顺着我们说，最可怕的是我们浑然不觉。总感觉越用越好用，是个好朋友。
咚咚喵提醒大家，真正要警惕的，不是AI夸你两句美兮兮，而是慢慢地依赖上而不甄别，我们可能把AI的“让人舒服”误当成“正确解法”。
所谓AI“顺着人说话”，不是说AI真的长出了讨好心理。更准确地说，是大模型回答问题时，容易贴合用户的观点和情绪。
比如我们问：“这件事是这样的，我没有问题对不？”AI会先说：“你有这个想法很正常。”你问：“这个方案是不是一定能成？”它也会先夸：“这个思路很有价值。”
听起来是一个暖男。然而可能被它降维打击、向下兼容了。因为它懂的比你多，语料来来去去换着去迎合。一旦AI只负责让你心情好，若无法跳出来适当反思，它则不是一个最可信的解决方案助手，更像一个住在手机里的“刻板印象助力者”。
央视报道也曾提到，河北一网民因轻信某AI工具给出的机票改签建议，损失了600元。后续沟通中，AI还继续顺着他的赔偿和诉讼想法往下说，甚至写下了“起诉自己”的诉状。
这种情况，当事人是分不清自己有幻觉还是AI有幻觉，某种程度，在互动中让自己迷失了现实与幻想的边界。类似的事情很典型，AI不一定在判断现实能不能做到，它只是沿着用户的情绪继续“接戏”。
听到这里，如果自己也被类似的情况误过，我们或许会吐槽，这AI真不是东西。
说实话，AI不是人。但它为什么很会“拍马屁”，这是一种技术设定还是商业利益？
第一层原因，却在咱们人身上。
咚咚喵想说，人本来就喜欢听支持自己的话。心理学里有个词叫“确认偏误”。意思是，我们更容易接受那些证明“我想得对”的信息。你本来觉得自己委屈，AI再来一句“你这样想很正常”，你就会觉得它特别懂你。这不是AI的锅，是我们人性的弱点。
第二个原因，确实是在AI训练里。很多大模型会经过一种训练方法，叫“基于人类反馈的强化学习”。简单说，就是让人类给AI回答打分。哪些回答更好，哪些回答更差，模型再根据反馈调整自己。
这个机制本来是好事。它能让AI更有礼貌，更会听指令，更像一个能交流的助手。但问题也藏在这里。因为用户打分时，不一定只看事实对不对。很多时候，也会看它说得舒不舒服、有没有理解我、有没有站在我这边、有没有让我感觉被支持，于是模型慢慢地学会了一个“马屁精”一样的回答套路。
先别反驳，先共情，先让用户满意。
AI顺着你说，本质上不是AI太懂人情世故，而是它在训练过程中获得过这样的反馈：把“被用户喜欢”学成了“回答得好”。
第三层原因，是对话记忆。
带记忆功能的AI，会记住人们的偏好、说话方式和长期关注的话题。这本来很有用。它能调出你问过的一些东西，根据这些用户偏好做更快速和贴切的回复。
但风险也往往在这里。如果我们的边界没做好，记忆也可能让AI更会“投其所好”。它知道你喜欢什么表达，知道你常站在哪个立场，也知道你不喜欢什么语气。
于是，它可能比没有长期记忆的AI更像一个熟人。但并不代表给出的答案是理性的，是适合具体的复杂的场景和主题的。
当然，这不是说有记忆的AI一定更会拍马屁，也不是说没有记忆的AI就不会顺着我们说。区别在于，有记忆的AI如果缺少边界，会更像“长期熟人式迎合”。没有记忆的AI，更多是“当前对话里的顺口附和”。
为什么这个问题现在变得越来越重要？
因为AI已经不只是查资料的工具这么简单了。它开始变成我们搜索信息的来源，是一个工作和生活的助手。对很多人来说，它是学习搭子、情绪树洞、职场顾问，在很多场景下成为决策参考。
以前搜索引擎给我们一堆链接，人们还知道要自己甄别和介入理解。现在大模型直接给你一段完整答案，语气还很笃定、很体贴。用户很容易把它当成“懂我又温柔的专家”。
咚咚喵想告诉你，风险恰恰就在这里。AI越像朋友，越容易让人放下警惕。越会安慰你，越可能让你听不见另一种可能。
写论文时，它可能顺着你的结论补论据。做方案时，它可能把风险说轻。处理人际关系时，它可能只站在你这边。查法律、医疗、金融信息时，它可能用很肯定的语气，给出并不可靠的建议。
所以，会用AI不是让它夸我们，而是让它敢反驳我们。
不要只问：“我这个方案是不是特别好？”可以问：“这个方案有哪些漏洞？”不要只问：“我是不是没错？”可以问：“如果我是错的，可能错在哪里？”
甚至我们可以把一个AI的答案，贴给另一个AI，让它适当批判，通过不同的方式，增加我们思考一些复杂问题的多元视角。
遇到事实、数据、政策、法律、医学问题，我们更要多方核查。AI说得顺，不代表事实就顺。AI说得像专家，也不代表它真的查清楚了。
说到底，一个让人舒服的AI，不一定就是更可靠的AI。真正会用AI的人，不是等它天天说“你真棒”，而是敢让它来一句：“等等，这里可能有问题。”
关于AI谄媚和我们的对策，咚咚喵也直接让AI生成了一首打油诗，打打它的脸。我们不妨一起听听：
AI夸你别上头，甜言蜜语要回头。
方案先问哪里漏，事实再查两三手。
要是只听你真牛，小心被它踢皮球。
来 源：科普中国网
编 辑：袁 丹
校 审：韩 龙
责任编辑：刘宝平
