乐于分享
好东西不私藏

AI正在批量制造“幽灵”

AI正在批量制造“幽灵”

周四下午两点四十分,纽约曼哈顿一栋写字楼里,一个穿Coach外套的女孩正在跟店员聊天,她说了自己喜欢什么颜色,抱怨了就业市场,还问新款包有没有折扣,店员练得满头大汗,AI给她打了八分,问题是——这个女孩从来不存在,她是Tapestry用消费数据喂出来的虚拟人,用来测试新品、训练员工、模拟焦点小组,听起来很酷对吧?省钱,高效,24小时在线。

可你有没有想过,同样的"造人"能力,在太阳照不到的角落里,正在批量生产什么?

2024年,加州社区学院系统收到120万份欺诈申请,确认了22.3万个虚假注册,假学生用AI登录网课、交作业、参与讨论,把热门课程抢满,真人反而进不去,美国教育部说,2025年光是拦下来的学生资助欺诈就超过10亿美元,这些"幽灵学生"背后,可能只坐着一个人,同时操控几百个身份,凌晨三点,某个公寓里三台显示器亮着蓝光,键盘声噼里啪啦,一个人开着二十个浏览器标签页,每个标签页里都是一个"学生"在上课呢,你说离谱不离谱?

我刚才说的这个逻辑——想了想,好像有点问题,因为就算没有AI,骗子也在造假身份,AI只是把"一个人能骗多少"这个问题,从加法变成了乘法。

招聘市场更离谱,美国一家公司面试通过了一个工程师,准备发offer,人突然消失了,从头到尾,他们可能只跟一个AI聊过天,Gartner调查了三千名求职者,6%承认参加过面试欺诈,预计到2028年,全球每四份求职档案里就有一份是假的,说明什么?意味着你隔壁工位那个"新同事",皮下到底是谁,没人知道嘛。

离谱。

金融行业里的幽灵更耐心,二十多年前就有"合成身份"诈骗——拿真社保号配假姓名假照片,拼出一个不存在的人,开账户,办信用卡,按时还款养信用,等额度够高了再一把套现,AI让这套流程可以批量生产,2024年底,美国贷款机构暴露在合成身份欺诈里的信用风险,已经达到33亿美元,骗子连视频核验都能用AI应付过去,你想想看,一个根本不存在的人,信用记录比你还漂亮,银行还抢着给他提额,这上哪说理去?

我本来想说的是——

算了。说另一件事。

你知道现在"造人"已经是一门正经生意了吗?Aaru公司给企业生成虚拟消费者,出版社拿他们挑书封,饮料公司测口味,投资机构收购前先问问"他们"怎么选,估值十亿美元,另一家Simile更直接,给真人做"数字双胞胎",美国CVS药店在四十多万名受访者身上用了这套东西,拿过去290万份回答训练AI,新问题的吻合度最高到95%,Gallup也部署了一千多个数字双胞胎做政策研究,Simile今年7月刚融了两亿美元,估值二十亿,企业客户每年掏十五万到几百万美元买这套服务,就为了不用每次都找真人填问卷,这算进步还是偷懒?

药企、律所、法院全在跟进,Lumanity给药企生成虚拟患者和医生,测试药品信息怎么说更容易被懂,Courtroom搞AI陪审员和AI法官,律师开庭前先过一遍"幽灵庭审",看看不同背景的陪审员会有什么反应,他们说模拟准确率超过90%,已经有财富1000强企业把它用在真实案件里了,你敢信?

好家伙。我们一边用AI造人解决问题,一边被AI造的人骗得团团转。

这像不像一个悖论?你越是依赖虚拟人做测试,真实世界就越像被虚拟人接管,到头来,连"证明自己是真人"都成了一门生意,Sam Altman搞的World ID,让人扫描虹膜来证明"我是碳基生物",一千八百万人已经扫过了,Tinder、Zoom、DocuSign都在接入,另一家公司Humanity Protocol靠掌纹验证,估值十一亿美元,以前点一下"我不是机器人"就够了,现在可能要掏虹膜,可如果虹膜也能被AI伪造呢?

我们到底在防什么,又在造什么?

说到底就这样——AI幽灵最可怕的地方,不是它们在冒充人类,是它们正在让人类慢慢习惯一种状态:屏幕对面是谁,根本不重要了,重要的是交互够顺滑,数据够准确,成本够低,当一家公司发现虚拟消费者的反馈和真人差不多,当律所觉得AI陪审员的预测够准,当学校系统里真假学生混在一起没人分得清——"人"和"模拟人"的边界,就彻底消失了。

你品。

这不是技术问题。这是我们对"真实"这个词的定义,正在被重写。

如果这说的是你正在经历的世界,转给一个需要看到的人。你呢——你觉得五年后,证明自己是人,会比证明自己是AI更难吗?评论区聊聊。

往期文章推荐阅读

个人提效≠公司增收,用友YonSuite如何帮成长型企业驾驭AI?

“成本不是创作人最关心的问题”,新片场14年的反思与AI重构

50万创作者扎堆淘金,AI短剧回报率输给“买彩票”?

AI视频进入洗牌期,接入Seedance2.5的Flova如何稳定出片

懂的人都点了这里~~~~

如果这篇文章对你有一点点的启发,很期待你留下一个赞+在看。谢谢,亲,祝您一切顺利。