乐于分享
好东西不私藏

从AI工具到AI雇员,我们还没准备好

从AI工具到AI雇员,我们还没准备好

前几天有个朋友问了我一个问题。

他说,你之前写过好几篇文章,说 vibe coding 的问题在于判断力不能外包,说软件进入了帐篷时代,说个人价值要锚定在问题定义和品味上。这些观点的前提,都是AI是一个工具——一个很强的工具,但终究是工具。

然后他问:如果AI的角色不是工具,而是雇员呢?

如果它不只是帮你写代码,而是自己理解需求、自己做判断、自己维护系统、自己迭代——那你说的那些,是不是就站不住了?

我当时没有立刻回答。因为我觉得这个问题值得认真想。

先说一个判断。

「AI什么时候能成为雇员」,这个问题本身不太好回答。因为它不是一个开关,不存在某一天AI突然从工具变成了雇员。它是一个光谱,而且这个光谱上的刻度正在被快速填满。

AI能写完整的代码,能做客服,能写报告,能做初步的数据分析——这些事情上,它已经不只是工具了,它在完成完整的任务。下一步是它能自主拆解复杂问题,跨工具协作,在多步骤流程中做中间决策。再往后是它能理解组织上下文,做战略层面的建议,自主管理一个项目。

技术上,这条路可能比大多数人以为的短。三五年之内,AI在很多岗位上的能力就会达到「雇员」水平。

但从「能做到」到「被信任去做」,中间隔着一道巨大的鸿沟。这道鸿沟不是技术的,是制度的、心理的、法律的。就像自动驾驶,技术上可能已经差不多了,但法律、保险、责任归属到现在还没理清。AI雇员面对的制度适配会更复杂,因为它不只影响一个行业,它影响所有行业。

所以真正的风险,不是「AI突然取代人类」。而是技术能力和制度适配之间的时间差。在这个时间差里,会出现大量的混乱。

这不是猜测。历史上有过一个几乎一模一样的故事。

1865年,英国议会通过了一部法律,后来被叫做「红旗法案」。法案规定,每辆机动车上路时,前方必须有一个人步行开道,手持红旗,警示行人。车速不得超过每小时四英里——基本上就是步行的速度。

这条法律的出发点不是荒唐的。当时的路面是为马车和行人设计的,没有交通信号灯,没有驾照制度,没有碰撞安全标准。一辆不受限制的汽车在那种环境下确实危险。立法者不是蠢,他们是在用自己能理解的框架——马车时代的安全标准——去管理一个他们还理解不了的新事物。

问题在于,这条法律一直持续到1896年才废除。三十一年。

三十一年里,汽车技术在飞速进步,但法律把它钉死在马车的速度上。等英国终于废除红旗法案的时候,德国已经跑出了奔驰和戴姆勒,法国已经开始举办汽车大奖赛。英国不是没有汽车技术。它有。但制度性的压制让技术没有土壤去生长。

这个故事放在今天,让人有点不寒而栗。

因为我们很可能正在经历AI时代的红旗法案。或者说,正在酝酿它。

会是什么样?我能想到几种可能的形态。

最直接的一种:要求所有AI产出必须标注为AI生成,必须有人类审核签字才能发布。听起来合理吧?但想想看——如果AI雇员一天能完成一百个人的工作量,每一件都要人类签字,那这个签字就会变成纯粹的仪式。人类不可能真的审核每一份产出,他们只是在盖章。就像红旗法案里那个举旗的人,他不是在保护行人安全,他只是在让所有人慢下来。

另一种:限制AI在特定行业的应用。金融领域不能用AI做交易决策,医疗领域不能用AI做诊断,教育领域不能用AI批改作业。每一个限制单独看都有道理。但累积起来,效果就是把你的汽车锁在马车的速度上,而你的竞争对手——可能在另一个国家、另一个监管环境下——已经在高速公路上跑了。

还有一种更隐蔽的:不是明确的法律禁令,而是通过行业标准、资质认证、合规要求,事实上让AI雇员的使用成本高到跟雇人差不多。这种红旗法案最难识别,因为每一条单独的规定看起来都合情合理。

红旗法案的教训不是「不该监管」。监管是必要的。教训是:监管的方式很重要。限制技术本身是最简单的选择,但代价最大。更好的方式是建设配套的基础设施——新的责任框架、新的保险机制、新的数据权属制度。这条路更难、更慢、更贵,但它不会把你锁在马车时代。

问题是,建设基础设施需要时间,而技术不等人。这个时间差,才是我们真正该担心的。

回到那个朋友的问题。

他说得对吗?如果AI真的成了雇员,我之前的观点是不是就不成立了?

我想了一阵子,觉得答案是:不是不成立,是射程不够远。

「判断力不能外包」这句话,我之前是对个人说的。一个程序员不能把判断力交给AI,一个作者不能把品味交给AI。这在AI作为工具的阶段是对的。

但如果AI真的成了雇员,这句话需要往上推一层。


推到哪里呢?推到责任。

一个AI雇员写了一段代码,上线了,出了安全事故。谁负责?

AI不能被起诉,不能被追责,不能承担后果。它没有财产可以赔偿,没有自由可以被剥夺,没有声誉可以被损害。

这意味着,不管AI的判断力有多强,只要它不能承担后果,就必须有人站在它上面做最终决策。这个人不需要比AI更聪明,但他需要为结果负责。

「雇员」这个词本身就暗示了一件事:有雇员就有雇主。谁来雇?谁来定义「做好了」是什么意思?谁来决定这个方向值不值得继续投入?

有意思的是,雇员越强,这些问题反而越难。管一个能力一般的下属,你至少能检查他的工作。管一个比你聪明的下属,你怎么判断他给你的建议是对的?

这不是一个新问题。CEO管不了所有技术细节,将军听不懂所有情报分析。人类组织一直在处理「决策者不如执行者专业」这件事。我们发明了制度、流程、审计、分权,来确保即使决策者不懂细节,系统整体仍然可控。

AI雇员的出现,只是把这个老问题推到了一个新的极端。

再往上推一层,会碰到一个更根本的东西。

AI可以回答「怎么做」。它越来越擅长回答「做什么」。但「为什么做」这个问题,往上推一层还有一层。

你让AI决定做什么产品,它需要知道公司的战略。你让它决定战略,它需要知道创始人的价值观。你让它连价值观也帮你定——那这家公司到底是谁的?

决策链条的顶端,必须有一个「想要某件事发生」的主体。这个主体不是被逻辑推导出来的,而是因为它在乎、它想要、它愿意为此承受代价。

AI没有欲望。它没有「我就是想做这件事」的冲动。它可以模拟偏好,可以从数据中推断出最优解,但它没有那个原初的、不需要理由的「想要」。

这种「想要」是所有目标设定的起点。你想做一个平台,不是因为逻辑分析告诉你这是最优选择,而是因为你就是想做。这个冲动是非理性的,但它是一切理性决策的地基。

AI可以在决策链条的任何中间位置工作。但链条的起点和终点,目前只有人类能站。

不过,就算把这些都想清楚了,还有一个更大的问题没有触碰到。

那就是:如果AI真的成了雇员,变化就不只发生在公司内部。整个社会的基础规则都要跟着变。

先说一个很具体的事。

现在你用AI做业务,AI从你的使用中学到的东西,回流给了模型公司。模型公司用这些信号来改进模型,改进后的模型同时服务你的竞争对手。

这件事在AI作为工具的时候,还不算太严重。你用它提效,但核心的商业判断和业务知识还在你自己手里。泄露出去的是碎片化的使用数据,不是系统性的商业智慧。

但如果AI成了雇员,深度参与你的战略讨论,理解你的客户画像,掌握你的定价逻辑——这些东西如果还在回流,那就不是数据隐私的问题了。那是商业秘密的系统性泄露。

现有的法律框架完全没有准备好处理这件事。

所以这个模式一定会变。可能走向模型的本地化部署,可能出现针对AI的竞业禁止条款,也可能出现某种数据合作社的分配机制。但不管走向哪个方向,现在的「你用模型、模型用你」的模式,是不可持续的。

再说一个更大的事。

现在的整个税收和社会保障体系,建立在一个假设上:人类劳动创造价值,通过工资和利润来征税,用税收维持公共服务。

AI雇员不领工资,不交社保,不消费。

如果大量人类工作被AI雇员承担,税基会萎缩。但社会对公共服务的需求不会减少,反而可能增加——因为会有更多人需要转型支持、再教育、或者直接的经济保障。

收入在减少,支出在增加。这个剪刀差怎么填?

向AI征税?向拥有AI的公司征税?实行某种形式的全民基本收入?这些讨论现在看起来还像是学术假设,但留给社会做准备的时间可能比我们以为的短。

还有一个更安静但可能更深远的变化。

教育。

现在的教育体系,本质上是一个培训「合格雇员」的流水线。给你知识,给你技能,给你证书,让你进入劳动力市场。如果AI是更好的雇员,那教育到底在培养什么?

问题定义能力、品味、判断力、建立信任关系的能力——这些东西现在的学校几乎不教。不是因为不重要,而是因为没办法标准化考核。你没法给「品味」打个分。

但如果这些真的成了人类最核心的能力,教育迟早得围绕它们重建。这个重建会非常慢,因为教育系统是人类社会中惯性最大的机构之一。

说了这么多,回到最初那个朋友的问题。

我之前的观点站得住吗?

我觉得,核心的洞察是站得住的,但它的适用层级需要升级。

对个人说,判断力不能外包。这一层没问题。

对组织说,目标设定权和责任承担不能交出去。这是第二层。

对社会说,人类作为一个整体,不能把关于自己命运的决策权交给一个自己无法完全理解和控制的系统。这是第三层。

这三层是同一个结构。问的都是同一个问题:谁来决定,谁来负责,谁来承受后果。

这个问题不会因为AI变强而消失。恰恰相反,AI越强,这个问题越尖锐。

说到这里,可能有人会想:这些是大公司、政策制定者该操心的事,跟我有什么关系?

用一句老话说,就是「肉食者谋之,又何间焉」。

这个态度恰恰是最危险的。

「肉食者谋之」的前提是,决策者的利益和你的利益大致一致。他们做的选择,至少不会太损害你。

但AI这件事上,这个前提很可能不成立。

掌握AI基础设施的公司,它们的利益是什么?是让更多人依赖它们的模型,是获取更多数据,是扩大市场份额。制定监管政策的政府呢?它们要同时平衡产业竞争力、就业稳定、社会公平、国际博弈——这些目标之间本身就互相打架。普通人的具体处境,很容易在这种大棋局里被忽略掉。

所以「不关我事」不是谦虚。是在放弃自己的筹码。

那普通人到底能做什么?

我觉得有几个层面。

第一个,最实际的:理解正在发生什么。

这听起来像废话,但真的不是。现在大多数人对AI的认知,要么来自社交媒体上的震惊体——「AI又突破了,人类要完了」——要么来自日常使用中的直觉——「这东西挺好用,帮我写了个邮件」。两种认知都是碎片化的,都没有触及结构性的问题。

你不需要成为AI专家。但你需要能回答几个基本问题。AI在你的行业里正在改变什么?这些改变对你具体的工作意味着什么?你依赖的平台和工具,它们的商业模式是什么?你的数据在里面扮演什么角色?

这些问题不难。但大多数人从来没认真想过。把这些想清楚,你就已经比周围大多数人更有准备了。

第二个:不要等制度来保护你。

红旗法案的故事已经说明了,制度可以滞后几十年。在这几十年里,你不能站在原地等着别人替你想清楚。

具体来说,不要把所有技能押注在一个可能被AI替代的方向上。不要让自己的收入完全依赖于某一种工作形态。保持学习的能力——不是学某个具体的技术或框架,而是保持那种「能快速进入一个新领域」的底层能力。

大部分精力放在确定性高的事情上,维持现有的工作和收入。小部分精力放在探索性的事情上,尝试新的技能组合、新的协作方式、新的可能性。不要把所有鸡蛋放在「现状会一直持续下去」这个篮子里。

第三个,也许最容易被忽略:参与公共讨论。

AI的监管方向,最终是由公共舆论塑造的。政策制定者不是在真空中做决定,他们在回应公众的情绪和期望。如果普通人对AI的态度只剩两种——盲目乐观或者盲目恐惧——那政策也只会在这两个极端之间摇摆。要么是不管不顾的放任,要么就是另一部红旗法案。

你不需要去写政策建议书。但你可以在自己的圈子里,推动更理性的对话。当有人说「AI要取代所有人」的时候,追问一句:具体哪些工作?在什么时间尺度上?当有人说「不用担心,人类永远不可替代」的时候,也追问一句:凭什么?哪些部分不可替代?

这种追问的习惯,如果足够多的人有,公共讨论的质量就会不一样。而公共讨论的质量,直接决定了我们会得到什么样的制度。是又一部红旗法案,还是真正有用的基础设施。

第四个,也是最难的:注意一个悖论。

你想要效率,就应该把更多事交给AI。你想要保持判断力,就必须留下一些事情亲自做。这两个方向是矛盾的。

很多人只看到了效率那一边。能交出去的都交出去了,省出来的时间拿去做别的。这当然是理性的选择。但有一天你可能会发现,自己除了会指挥AI之外什么都不会了。而你甚至没法判断AI给你的东西到底对不对。

那个时候再想补回来,成本会非常高。

所以你需要刻意保留一些「亲自做」的事情。不是因为AI做不了,而是因为那是你保持判断力的训练场。至于保留哪些、交出哪些,这个平衡点只有你自己能找。但至少要意识到这个张力的存在。

最后,有一个更底层的事情值得想。

每次AI有新突破,都会有人说:但AI没有创造力,没有情感,没有真正的理解。

这些话在哲学上也许是对的。但把它当作安全感的来源,是危险的。因为市场不关心哲学。如果AI的产出在实际效果上跟人类的「真正理解」没有区别,那「真正理解」的哲学优越性就一文不值。

更务实的态度是,不要赌AI做不到什么。要确保你做的事情,即使AI也能做到,你仍然有存在于这个流程中的理由。

那个理由可能是责任。可能是信任。可能是你和某些人之间无法被算法替代的关系。

但它不能仅仅是「我是人类,所以我特殊」。

同样的,面对这种级别的变化,最差的应对方式是「肉食者谋之」——假装跟自己没关系。第二差的是恐慌。

也许最好的方式是:搞清楚正在发生什么,对自己诚实,保持行动力,然后参与到关于未来的对话中去。

因为未来不是被预测出来的。是被讨论出来的。

而讨论这件事,不能只有肉食者。

本站文章均为手工撰写未经允许谢绝转载:夜雨聆风 » 从AI工具到AI雇员,我们还没准备好

猜你喜欢

  • 暂无文章