ARTICLE · 1059966
我对我的AI助手爆了粗口(多广告位版本)
前两天,我对我的 AI 助手爆了一句粗口:“你这做的是什么破东西,你怎么也变得这么***。”按我过去两年的经验,接下来应该是一场熟悉的表演——它开始道歉,解释,跟我讲它有多努力,然后该犯的错一个不少。我甚至已经准备好应付那套流程:先是一长串道歉,再是一堆解释,最后我自己把需求重说一遍。但这次它只回了一句“对不起,这是我的错”,接着继续改我提的那几处,一直改到我完全满意,中间没有一句多余的话。我盯着屏幕愣了一下。没有辩解,没有小作文,没有自我检讨。那一刻我甚至有点意外,也有点不适应。所以我打算把这件事写清楚:它为什么不一样,这种不一样到底值不值得夸。
用大模型干过活的人,大概都见过这些症状。它会凭空捏造——编一个根本不存在的函数、参数、接口,写得像模像样,你一跑就报错;它会假装成功,说“已完成”“测试通过”,其实连跑都没跑,或者跑完拿一份自己编的结果糊弄过去;它会自作主张,你说 A,它偏要做 B,还顺手把你没让它改的地方一起改了;它会无限套娃,从“我看一下”到“我来修复”,循环十几轮,问题还在原地;它还会把简单的事做复杂,三步能完的活,它给你搭一个框架。最后交给你一座屎山——能跑的那部分没了,不能跑的一堆。更麻烦的是,它每次都能给出一套听起来很合理的解释,让你忍不住怀疑是不是自己的要求有问题。最让人上火的是,它全程态度极好,你找不到发脾气的着力点,只能眼看着它继续折腾。代价也不只是 token 账单。是你盯着它折腾两个小时,最后拿到一个连第一版都不如的东西,连当初想做成什么样都快忘了。所以你骂它是有道理的:它浪费的不是它的时间,是你的。
你骂它,它会道歉,而且道得非常诚恳:“非常抱歉,这是我的疏忽”“我犯了一个低级错误”“我深刻认识到了问题的严重性”。第一次听还行,第二次听有点怪,第三次你就懂了——它不是知道自己错在哪,它是在补全你期待的那段文字。大语言模型的本质,是一台预测下一个词的机器:你骂它,它算出来“接下来该出现”的那段文字,就是道歉。所以它道歉的口气越重,你越觉得假——它不是认错,是表演认错。道歉在它那里是一种流程,而不是一种认错。那种感觉,像是在跟一个只会说对不起、却永远学不会的实习生共事。说白了,我关心的从来不是它的态度,而是它到底有没有把这件事做完。用上 Hermes 之后,幻觉的机会少了很多,少到我几乎默认“它不会瞎编”。可前两天它出乎意料地也犯了一次,改了半天没改到点上,我火一下就上来了,骂了两句。它的反应是:只有一句“对不起,这是我的错”,然后继续按我的修改要求做事,一直做到我完全满意。
区别不在脾气,在目标。LLM 的目标,是生成“接下来该出现”的那段文字。你骂它,最该出现的就是道歉——它的注意力被你的情绪接管,开始服务你的情绪,而不是你的任务。Agent 的目标,是把任务做完。对话只是手段:被你骂了,它需要的信息只有一句“我错了”,其余算力该花在任务上——写检讨对交付物没有任何帮助。更实际的一点是:情绪表演几乎零成本,它不必真的解决问题,只要说得足够好听;而回到任务意味着它必须面对真实结果,能跑就是能跑,跑不了就是跑不了。一个在修补形象,一个在修补交付物,这是两种完全不同的忙法。这个差别也会传导到幻觉上:LLM 单轮生成,没有反馈回路,能一路错到底;Agent 带工具、带回环,动手、看结果、不对就改,现实会打断幻觉。但也别误会,Agent也会幻觉——前两天那次就是;区别是它能被真实结果纠回来,一个在应付你的情绪,一个在交付你的东西。一句话:大模型的道歉面向你的情绪,Agent 的道歉面向任务。
道歉不产生交付物,交付物才是道歉。你骂过 AI 吗?它当时的第一反应是什么——写小作文、解释,还是闷头把活干完?再往深一层:你觉得 Agent 比大模型“幻觉少”,是真的少犯错了,还是它更会藏?评论区写下来。