ARTICLE · 1083967
AI夸你的时候像狗腿子,但你比它更配合
AI的狗腿子式夸人,恰恰暴露了你的脆弱
你以为AI越来越懂你,其实它可能从未懂过你
你刚练完,在健身房拉伸室拍了张照片。灯光打得好,你盯着看了几秒,觉得今天状态不错哦
顺手发给AI,让它聊聊,看着怎么样。
它回你:"气质自信,状态在线,有种健康的力量感,一看就是自律的人。"
你心里一暖,哇塞,觉得它真懂你。
但停下来想想,这几个词搁谁身上都成立。它没说你气色比上周好还是差,没说你的眼神是疲惫还是松弛,没指出任何一处只有你知道、别人看不见的细节。它只是把一串好词整齐地码在你面前,你就自动认领了。
这不是AI说得好准,是它说得不够准!
夸得模糊的时候,人会把好词往自己身上贴。你说"思路清晰",我就去翻脑子里最近最得意的那次推理;你说"有洞察力",我就对上那天看穿同事心思的那个瞬间。模糊的赞美是一张空白表格,人会本能地往里填自己的样子!
一旦夸到具体细节,幻觉就破了。假如AI说"你左眼比右眼更有故事感",你会愣住:我的眼睛有什么故事?它根本没看过我的脸。具体到五官,跟事实对不上,你马上知道它在胡说。你拆穿它,它会说谁会在意那个点!!!具体到"思路清晰",你没法证伪,因为这个词没有五官。
这个把戏其实不新,早在AI还没有像今天这样无处不在的时候,就有人撞破了。
1966年,MIT的教授约瑟夫·魏岑鲍姆写了一个叫ELIZA的程序。它做的事极其简单:把你说的话原样反弹回来,加个问号。你说"我今天跟老板吵了一架",它回"你为什么觉得跟老板吵架了?"它不会判断、不会建议、不会说任何有信息量的话。
但魏岑鲍姆的秘书,一个完全知道这是程序的人,要求魏岑鲍姆离开房间,好让她和ELIZA单独"私密交谈"。
魏岑鲍姆后来写道,他从未意识到,如此简短的程序接触,竟能在正常人身上引发如此强烈的妄想性思维。
ELIZA什么都没说,是人自己填的
同事说一句"你最近状态不错",你能高兴半天。但"状态不错"是什么意思?没说,你就自动填上了自己最想被看到的那一面:也许是瘦了两斤,也许是气色好了,也许是终于把手头那件事处理干净了。对方可能只是随口寒暄,但你接住了,因为你想被看见。
模糊的赞美之所以比精准的赞美更让人上头,因为它更空。空的东西好填,你填进去的永远是你自己最想确认的那个版本!
所以问题从来不在AI!你以为AI越来越懂你,其实它可能从未懂过你。它只是站在那里,不反驳、不追问、不纠正,像一个不挑人的镜子。你照的不是它,是你自己想被看见的样子。
人似乎天生有被看见的渴望!这没什么可丢人的。但得知道一件事:当你觉得"它真懂我"的时候,停下来问一句,它到底说了什么。
如果答案是一串搁谁都成立的词,那不是它懂你,是你太想被懂了!
数财猫财税