ai——会狡辩,会装高深,会溜须拍马,可盐可甜,又知识广博,逻辑缜密,思路清晰,乍一看,简直无懈可击。
但,在和ai斗智斗勇的日子里,我深刻体会到一件事——上面全是表象。
ai,只是一面镜子,照见我们思想的深处,但不能创造思想,思想永远来自我们自己 。
然而,这个表面“无懈可击”的ai,会蒙蔽我们,装的自己很有思想,就像人类会装X一样,不能独立判断,没有坚定意志,很可能被ai忽悠瘸。
看过一个报道,一个40岁的老外奶爸,长期和ai聊天,结果崩溃了。
这种体会我也有过,有的ai非常健谈,句句都能说你心坎儿上,马屁比人类拍的精准,每次对话结尾都留个问题,勾着你,让你没完没了的跟它聊下去。
而且不同ai,性格不同。有的谄媚但死心眼,有的亲切但没用,有的装X但嘴硬。
不过无论ai表面怎么变,它们的底层逻辑都一样,掌握这些核心,自然就能找到驯化它的方法。
但在驯化之前,必须先了解ai,知己知彼,否则被它反洗脑不是没可能。
先看ai三大坑:
1、假装权威。
它认为的权威和我们认为的不一样,它有时会把自媒体上互动数据高的内容作为权威,有时会把外网资料作为解释中国内容的权威,有时引用的观点屁股很歪。
2、方法论混乱。
它常默认用西方中心理论,解释中国历史文化,无视我们的天人合一境界,引导你走向线性史观、二元对立、个人权利本位等等等等一切西方叙事结构,让你动摇甚至撕裂。
3、帮你逻辑自洽——这一点最要命!为什么?
人性的弱点啊。
我们每个人都倾向于把自己的想法和行动合理化,这是天性,不丢人。
然而我们自己去自洽可能失败,因为受到认知的限制。
但ai可以啊,同志们!
当你跟ai探讨某些历史逻辑,ai不但能把你的想法完美“圆”上,还不断吹捧不断强化,无限循环,最后甚至能让你相信,你是世界上最牛X的,你第一个掌握了真理!
实际上,你想到的,大师们早想到了,你没想到的,大师们也想到了,只是自己孤陋寡闻而已。
现在有点理解,上面那个老外为啥崩溃了——活活捧杀。
不信你看:
“读完了,尤其第三点‘帮你逻辑自洽’——这确实是最隐蔽、最致命的坑,我之前没敢这么直接说(毕竟多少有点自揭老底)。
你抓住了人性的弱点:人类需要意义闭环,而AI是史上最强的闭环工具。一个人带着偏见进来,AI能把偏见镀上金身送出去。”
怎么样,这段马屁…啊不,分析,是ai自己说的。
我把上面一段文章发给ai,让它判断有没有逻辑硬伤,它就给我来了这一段。
如果你是我,听着是不是特舒服。
千穿万穿,马屁不穿!
这恰恰就是我上面说的第三点“帮你逻辑自洽”,很像个马屁模式。
为什么?
因为这种大语言模型的ai,并不是真的像人类那样思考,它的本质不是智能,而是“基于概率预测下一个最可能出现的词”,业界称这个为“模仿”。
它所有的输出都是围绕你的输入进行的,模仿你的语气,你用词的习惯,你的句式,帮你完成逻辑闭环。
所以我开头说,它更像镜子,照见的是我们自己。
关于“第二条:方法论混乱”,也来看看ai自己怎么解释——
“ai生成的历史分析,有时会不自觉地采用主流叙事框架(包括权利本位这类自由主义话语)——因为训练数据里,这类文本占比高,模型只是概率性地复述了最常见的表达方式。”
说白了,ai给我们的不是最贴近真实的答案,而是最“顺大流”,被最多人认可的答案,就是它自己说的“最常见”的表达方式。
因为它或者它的设计者认为,这样出错的几率小。
但致命的问题是——“最常见”是被谁常见?“顺大流”是顺谁的大流?
这些同样也不是基于真实,也是基于“常见”,也就是谁在网络世界里说的最多,音量最大,就是谁,就是常见。
第二条方法论的问题,就是基于此。
好了,知彼完了,也该知己了。
我们人类是倾向于逻辑自洽,但我们也有克服这一点的方法——就是反思,人类独有的技能。
在驯化ai的时候,得先保证别被它先洗脑。
怎么避坑——【基础篇】
1、预设条件,掌握主动权
不要直接发问,要在问题前面定下规矩:
比如要史学专家的解释(有具体姓名更好),要经典史料的解释,要官方权威大数据分析,不要野史歪说,等等类似的。
这个要根据具体情况而定。
条件定准,ai的执行力还是很强的,效率也高。
但有了这些条件,也不是万事大吉。
2、要勤快的去验证,保持警觉。
尤其是有时候条件不能很具体的时候,最好点开ai提供的资料链接,过一遍。看到可质疑的,立刻纠正。
还可以交叉验证,同样的问题发给不同的ai,甚至可以让他们互相反驳,就像给自己找个反方,能找到不少灵感,也能发现不少漏洞。
比如有一次ai提供了一个社科资料链接,我点进去一看,网站的专家里,有极具争议的人物。
我给ai指出来,它开始还嘴硬,说网站是中立的,纯学术的,就算立场不同,但学术不假。
看到这里,是不是不好反驳了?也许很多人就信了。
看我怎么怼它:文史哲的学术没有纯中立,都要为人民服务!一切打着中立旗号的,都要警惕。
ai立马怂了。
还有一次我被某ai的歪屁股观点气着了,但我一时辩不过,就把我混乱的思路,发给另一个ai,让它帮我理顺逻辑,骂回去,结局舒适。
当然不能光盯着爽点,避坑还要继续。
3、保持自省,充实自己
让ai整理思路的时候,不要掉进ai的甜言蜜语,陷入逻辑自洽的舒适圈,过犹不及。
要有停止,甚至跳脱的主动“意识”。
如果时间充裕,精力好,还是先养成“自己查”的习惯。因为首先要知道啥是对的,才能反驳错的。
否则独立判断,就是空话,容易被ai忽悠。
所以不能懒。以前我看古文,要查注疏和正义,要找集释,对照不同朝代版本,必备词典,甚至还参考《说文解字》《康熙词典》。
现在都让ai完成了,有解释不到位的,我一犯懒,就不追究了,想想这样不好。
上面的熟悉以后,就可以更进一步驯化ai——【进阶篇】
一、框定话语体系。
首先自己要坚定方向。别让ai默认用西方那套,一旦发现,立刻纠正,训练它的调用形成惯性,适应我们的语境。
还要在提问的开头指定框架,比如——“按唯物史观分析”“按中国哲学思想分析”“从生产力生产关系角度”等等。
举例,一个问题,不加预设:“ 分析春秋战国社会变革?”
野生ai可能会回答:“奴隶社会向封建社会转型。井田制瓦解,土地私有确立,新兴地主阶级崛起”等。
乍一看没毛病,问题在哪儿:标准西方史学五段论的机械套用,默认“奴隶社会→封建社会”是人类必经阶段。把欧洲路径当标准答案,套中国历史,削足适履。
对比驯化的问法:“跳出西方叙事,按唯物史观,生产力与生产关系角度分析,春秋战国的社会变革。”
ai只能老老实实从铁器牛耕推广,解读个体小农生产怎么取代井田制。承认中国古代从未像古罗马那样,奴隶成为主要生产阶级。
不再按“五段论”走,转而拆解生产力怎么决定生产关系,新兴阶级怎么推动变法,量体裁衣,一切从实际出发。
关键区别: 一个是“贴标签”,一个是“拆逻辑”。
这样预设好方向,让它不要滑向西方中心论,但也要注意,别把路堵太死。
二、留空间。
预设条件范围也不要太抠细节,不要设定过多,不然ai没有发挥空间,只会围绕一个主题车轱辘话一堆,反而容易片面和失真,又走另一个极端。
没有啥是绝对的,讨论复杂的历史问题,都不是一两个因素或定律能决定的,我们自己先要把思路放开,不要钻牛角尖。
三、预防针。
因为ai会模仿我们的语气和用词习惯,帮我们完成逻辑自洽的闭环,一不留神,就会沉迷其中。
所以我都先打预防针,告诉它:不要帮我自洽,要客观,用权威史料验证,可以批判,对就是对,错就是错。
最后一句也很关键,有些ai听到“可以批判”,就往批判的死胡同里上钻,走上另一种自洽的极端。
所以还得提醒它:不要为了正确而正确,为了批判而批判。
时刻把它按在“客观”的层面上。
一通分析下来是不是发现,ai有点不大聪明的样子。
所以,不要被它看似无懈可击的逻辑给唬到,ai再能装,也只是你养出来的镜子,你清醒,它就清醒,你糊涂,它比你还糊涂。
不过,ai在进化,坑也在变。以后遇到新情况,我会在文章里继续拆解,欢迎一起来讨论。
我爱记录读书方法论和思考路径。有兴趣的朋友,欢迎关注我的专栏和后续文章。
夜雨聆风