乐于分享
好东西不私藏

AI越强,人越不能只剩下发指令的能力

AI越强,人越不能只剩下发指令的能力

ESSAY

PRIVATE ESSAY

AI/THINKING/INDEPENDENCE

你不是在用AI提高效率,你是在训练自己放弃思考

AI越好用,人越要警惕自己到底是在变强,还是只是越来越会把问题丢出去。

AI可能是人类有史以来最强大的外包工具。

这句话听起来有点夸张,但越用AI,越会发现它并不夸张。

以前我们外包的是体力。后来我们外包的是路线、记忆、搜索。现在,我们开始外包判断、表达、创意,甚至连“我该怎么想”这件事,也开始交给AI处理。

BBC Future有一篇关于AI与大脑的文章,讨论的是一个很现实的问题:人到底该怎么使用AI,才不会在方便之中慢慢失去自己的思考能力。

原文参考:Think outside the bots: How to stop AI from turning your brain to mush        

这个问题换成一句更直接的话,就是:如何使用AI,又不把自己的脑子用废。

这不是一个反AI的问题。

恰恰相反,正因为AI太好用了,它才值得被认真讨论。

现在很多人每天都在用AI。写东西、查资料、整理思路、修改表达,甚至连一封稍微正式一点的邮件,也会先让AI帮忙组织措辞。

表面上看,这是效率提升。

但换一个角度看,这也是一种新的认知外包。

少做一点事,可能叫效率。少经历一点思考,可能叫退化。AI最隐蔽的地方,是它让这两件事看起来很像。

当越来越多脑力劳动被交给AI之后,一个人需要重新判断:自己的大脑是在被AI增强,还是正在被AI替代。

01

THE OUTSOURCED MIND

大脑有一个很残酷的规律:你不用它,它就真的慢慢不用了。

方向感就是一个很日常的例子。

以前出门,多少还能靠脑子里的地图认路。现在只要手机没电,很多人连熟悉的地方都不太敢乱走。

这不是因为人突然变笨了,而是因为大脑已经很久没有真正训练“记路”这项能力了。

长期依赖导航之后,大脑不再需要主动建立空间地图,空间记忆能力自然会下降。

导航弱化了方向感。搜索弱化了记忆负担。AI更进一步,它开始弱化一个人完整经历思考过程的机会。

AI不只是帮人查信息。

它可以帮人写作、分析、总结、判断、翻译、安慰、规划,甚至帮人生成一个看起来很有逻辑的观点。

这才是它真正强大的地方。

它不是替你做一件事。它是在替你完成一整套思考过程。

AI能帮你从问题直接走到答案。中间那些费劲、卡壳、怀疑、推翻、重想的过程,都可以被跳过。

而问题恰恰就在这里。

很多人以为,AI帮自己写完了一篇文章、总结完一份资料、整理完一套方案,就是赚到了。

但真正被拿走的,可能不是那篇文章,而是写出那篇文章时大脑本来应该经历的过程。

那些憋不出来的时刻。那些反复斟酌的句子。那些写了又删、删了又写的段落。那些突然想通一个逻辑时的轻微兴奋。

这些东西看起来很低效,但它们才是思考真正发生的地方。

一个人真正变强,往往不是因为他拿到了答案,而是因为他经历过找答案的过程。

DRIVE

THE DRIVER SEAT

这就像一个人天天坐在副驾驶,看导航、听指令、记住几个路口,就以为自己已经会开车了。

但真让他坐到驾驶位,他才发现事情完全不一样。

他不知道什么时候该变道。不知道前车突然刹车时该怎么判断。不知道路口复杂的时候该看哪里。也不知道导航出错时,自己该不该继续往前开。

AI给他的,不是驾驶能力。

AI给他的,只是坐在车里被送到目的地的熟悉感。

这种熟悉感很容易骗人。

因为你一路都在看,一路都在听,一路都觉得自己参与了。但真正控制方向盘、判断路况、承担后果的人,并不是你。

很多人使用AI时,也是这样。

他看完AI生成的答案,会觉得自己懂了。但只要脱离AI,让他重新解释、判断、反驳、修正,他很快就会发现:自己只是被送到了结论门口,并没有真正走过那条路。

这就是AI时代最隐蔽的认知陷阱:你不是没有思考,你只是把AI的输出误认为自己的思考。

DOUBT

CRITICAL THINKING

真正值得警惕的,不是AI会出错。

而是它出错的时候,也会说得很像真的。

它有条理。语气确定。结构清楚。看起来很专业。

于是很多人慢慢放弃判断。

清楚不等于正确。完整不等于可靠。专业语气不等于真的懂。

尤其是在不熟悉的领域,AI反而更危险。

因为一个人没有足够的背景知识判断它哪里错了,也不知道它是不是偷换了概念,更不知道它有没有遗漏最关键的前提。

很多人以为自己在用AI学习一个领域,其实只是用AI制造了一种“我懂了”的幻觉。

无知的人至少知道自己不懂。被AI喂养过的人,常常以为自己已经懂了。

所以,AI时代最需要的能力,不是提问能力。

而是判断能力。

更准确地说,是批判性思维。

批判性思维不是凡事唱反调,而是一种基本习惯:先不急着接受,先问它凭什么。

?

DON'T ASK FOR ANSWERS

AI本身未必伤害大脑。

真正危险的是“直接要答案”。

有的人用AI,是直接要结果。

帮我写。帮我总结。帮我想十个方案。帮我判断哪个好。帮我得出结论。

这当然快。

但它跳过了大脑最该参与的部分。

另一些人用AI,是要提示、要反驳、要盲点、要证据、要问题。

前一种是把脑子交出去。后一种是把AI拉进来,帮自己把脑子练得更锋利。

同样是用AI,问法决定了大脑是在训练,还是在退让。

不要一上来就问:帮我写一篇关于AI让人变笨的文章。更好的方式是:我认为AI会削弱人的独立思考。先不要替我写,帮我找这个观点的漏洞、反例和需要补充的证据。

前一种是让AI替你思考。

后一种是让AI挑战你的思考。

如果每次打开AI,都是为了让它直接给答案,那不是在使用工具,而是在训练自己失去答案之前的那段能力。

SELF

THINK FIRST

独立思考不是不用AI。

不用AI不现实,也没有必要。

真正的问题不是用不用,而是有没有在使用AI之前,先让自己的大脑启动。

先有自己的判断,再让AI挑战。先有自己的草稿,再让AI修改。先有自己的问题,再让AI展开。先有自己的立场,再让AI找反例。

最怕的是反过来。

自己什么都没有,直接问AI要答案,然后把AI生成的东西,当成自己的观点。

这不是效率,这是认知代工。

一个人如果长期这样用AI,最后会出现一种很奇怪的状态。

他看起来什么都能说,但那些话都不太像他自己的。

他能快速生成一段话,但很难讲清楚自己为什么这样想。

他能输出很多内容,但遇到真正需要判断的时刻,会突然失去底气。

因为他的表达能力看起来变强了,但思考底盘其实变薄了。

RULES

FOUR SMALL RULES

具体怎么做,可以记住四个动作。

第一,先判断,再问AI。不要一上来就问AI“你怎么看”。先问自己怎么看、凭什么这样看、可能哪里想错了。哪怕判断很粗糙,也先把它写下来。然后再让AI补证据、找反例、指出漏洞。

第二,先复述,再保存。用AI查到的信息,不等于已经进入大脑。真正让知识留下来的,是主动回忆。解释完一个概念后,最好用自己的话复述一遍。说不出来的地方,就是没懂的地方。

第三,先写烂,再改好。不要一开始就让AI写成品。先写一版自己的,哪怕很乱、很短、不成体系。然后再让AI改结构、补逻辑、压表达。AI应该打磨你的东西,而不是替你生产一个与你无关的东西。

第四,给自己一点无聊。遇到难题时,不要马上问AI。先自己想十分钟,列几个可能性,写下自己卡在哪里。那十分钟看起来低效,其实是在保留你的思考肌肉。

GAP

THE REAL DIVIDE

AI不会平均地改变所有人。

它会放大差距。

对有判断力的人来说,AI是加速器。对没有判断力的人来说,AI是麻醉剂。

它会让前者更快抵达问题深处,也会让后者更舒服地停留在表面答案里。

真正稀缺的,不是一个人能不能快速生成内容,而是他还保不保留自己的判断、经验、怀疑和联想。

判断让他不轻易交出方向盘。经验让他知道路况不只存在于导航里。怀疑让他敢在AI说得很顺的时候,停下来问一句:这真的对吗?联想让他还能从自己的经历和记忆里,长出那些标准答案里没有的东西。

AI的强大,来自概率、数据和模式。

人的独特,来自经历、记忆、情绪、误差和意外连接。

真正原创的东西,很多时候不是从最标准的答案里长出来的,而是从一个人混乱、矛盾、不完美的思考里长出来的。

END

STAY AWAKE

所以,这篇文章不是劝人少用AI。

AI当然要用,而且应该更熟练地用。

但它不能被用成一个让人停止思考的东西。

真正稀缺的,会是一个人自己的判断、经验、怀疑和联想。

判断决定他不会被一个漂亮答案轻易带走。
经验决定他能看出哪些说法只是表面完整,实际并不落地。
怀疑决定他不会把AI的流畅表达,直接当成正确结论。
联想则决定他还能不能从自己的经历、记忆和直觉里,生长出别人复制不了的东西。

AI最好的位置,不是主人,也不是保姆。

它应该是一个强大的协作伙伴,一个会挑战你的编辑,一个能陪你深入问题的研究助理,一个能帮你发现盲点,但不能替你生活和判断的工具。

最可怕的,不是AI有一天超过你。而是你还没有被AI取代,就已经提前把自己交出去了。

真正值得保留的,是那部分还会怀疑、会卡住、会推翻自己、会慢慢想明白的能力。

因为那部分,才是你自己。

“

别让自己的大脑,只剩下发出指令这一个功能。

DO NOT LET YOUR MIND BECOME ONLY A COMMAND LINE.KEEP THE PART THAT STILL DOUBTS, STRUGGLES, AND THINKS.

”

REFERENCE

BBC Future|Think outside the bots: How to stop AI from turning your brain to mush

https://www.bbc.com/future/article/20260505-how-to-use-ai-without-turning-your-brain-to-mush

DONALD

相关学习资料