
你以为在和AI聊天,其实对面坐着一个外包员工
硅谷有个不成文的规矩:先用人假装AI,等用户觉得好用了,再慢慢换成真的算法。这个套路有个正式名字叫「Wizard of Oz测试」,但它早就从测试方法变成了一种商业模式。
2016年,一家叫Magic的创业公司在Product Hunt上爆红。它的卖点是:发一条短信,什么事都能帮你办。订餐、订票、查资料、买东西,几分钟内搞定。投资人疯了,用户疯了,媒体说这是AI助手的未来。后来有记者扒出来——那些「AI」,其实是菲律宾的客服团队在轮班接单。
Magic后来沉寂了。但它代表的那套逻辑,从没消失过。
一个行业公开的秘密
「AI驱动」这四个字,现在贴在太多产品上了。法律文件审核、心理健康陪伴、客服机器人、内容审核、医疗问诊……用户看到的是一个对话框,以为背后是模型在运转。但实际上,相当比例的「AI回复」,是由真人完成的——有时是全程人工,有时是人工修改AI草稿,有时是AI答不上来就悄悄转人工,但界面上从不说明。
●这不是个别现象。这是一种被默许的行业惯例。
Mechanical Turk是亚马逊2005年推出的「人工智能」众包平台——名字直接取自18世纪那台著名的「会下棋的机器」,那台机器里其实藏着一个真人棋手。亚马逊用这个名字,像是在公开承认:所谓人工智能,有时候就是人工,加上智能的外壳。时至今日,全球有数百万人在这个平台上,以每条几美分的价格,做着被称为「AI训练」或「AI辅助」的工作。
30%
部分调研显示,自称「AI产品」的初创公司中,约三成核心功能由人工主导完成
为什么要撒这个谎
先别急着谴责。从商业逻辑看,这件事有它的合理性。
构建一个真正可用的AI系统,需要大量数据、大量调试、大量时间。但投资人要看增长,用户要看体验,市场窗口不等人。「先用人跑通流程,再用AI替换」,这是一条真实可行的路径。问题不在于这条路本身,而在于——有多少公司走到一半就停下来了,因为发现「用人」比「造AI」便宜得多。
「
当人工比算法更划算,AI就永远在「研发中」
」
更深的原因是:用户根本分不清楚。对话体验好不好,响应快不快,答案准不准——这些判断标准,人工和AI都可以满足。用户要的是结果,不是技术路线。这给了「人假装AI」足够大的生存空间。
真正的问题在哪里
有人会说,只要服务好,管它是人还是AI呢?这个问题值得认真回答。
1定价逻辑不同:AI的边际成本趋近于零,人工不是。你以为买的是可以无限扩展的技术服务,实际上是一个随规模增长而成本暴涨的人力服务。
2隐私边界不同:你以为对话只在机器和你之间,实际上有个真人在读你写的每一个字。很多涉及健康、情感、财务的敏感对话,用户从未同意过被人类看见。
3信任基础不同:AI会进化,人会离职。你今天体验到的「智能」,明天可能因为团队缩减直接消失,而你毫不知情。
这三点加在一起,不只是消费者权益问题,而是一种系统性的信息不对称。买家不知道自己买的是什么,卖家也没有义务说清楚——因为监管还没跟上。
有意思的反转
但这件事还有另一面,很少有人提。
那些坐在屏幕后面「扮演AI」的人,正在做一件极其重要的事:他们在定义AI应该是什么样的。他们的每一次回复,每一次判断,每一次纠错,都可能成为训练数据,成为未来模型的「性格」。某种程度上,今天AI的语气、边界感、处理复杂问题的方式,都是被无数个没有署名的人类员工塑造出来的。
这些人的名字不会出现在任何地方。他们拿着极低的薪酬,在内容审核、数据标注、对话模拟之间切换,构成了整个AI产业链里最不可见的一环。ChatGPT背后有肯尼亚的审核员,Stable Diffusion背后有大量图片标注工人,每一个「智能」的背后,都有一条很长的人工链条。
「
AI的智识,来自人类的廉价劳动
」
下次看到「AI驱动」四个字
不是让你愤世嫉俗,也不是让你拒绝使用这些产品。而是建议你多想一个问题:这家公司有没有能力,在不增加人力的情况下,把服务规模扩大十倍?如果答案是「做不到」,那它卖给你的,可能不是技术,而是一个关于技术的故事。
辨别的方法其实不复杂。看响应时间——凌晨三点还是秒回,大概率是真AI;看一致性——同样的问题问两遍,答案结构完全不同,可能有人工介入;看规模——五十人团队声称服务百万用户,数学上很难成立。
✦ 小结
「AI」是这个时代最好用的融资话术,也是最容易被滥用的品牌标签。真正的问题不是人工介入本身,而是它被刻意隐藏的方式——隐藏了成本结构,隐藏了隐私边界,也隐藏了那些真正在背后工作的人。下次和「AI」聊天时,不妨想想:如果对面坐的是个人,你还会说同样的话吗?
夜雨聆风