


曾被《纽约时报》大篇幅报道、连Sam Altman都想见见的“AI一人公司”Medvi,在短短两个月内从18亿美元估值的神话沦为全方位造假的丑闻。这起案例给全球行业敲响了沉重的警钟。因为AI在这一刻加速的并非商业创新,而是规模化生产欺骗客户的能力。当一家估值上亿的公司,能完完全全建在 AI 虚构的人设、编造的数据、伪造的案例上时,我们不得不承认:商业里最珍贵的「真实」,正在被算法一点点稀释。

(陷入争议的Medvi创始人)
AI
EASY
被算法武装的特洛伊木马
5000 多条投在 Meta 上的专业医生背书广告,不是人工一条条做的,全靠 AI 脚本批量生成。这些医生的头像、履历甚至是执业资质,全是 AI 凭空捏造的,却精准踩中了普通用户对专业医生的所有信任点。就连所谓的患者治疗前后对比照,也没有一个是真实用户,只是AI从 Reddit 上扒了点公开图片,用 AI 做了像素级换脸,视觉上毫无破绽,普通人拿放大镜都看不出问题。圈内人把这种玩法叫「社交工程 4.0」。这个名词的意思是,以前进行欺诈,可能得会编程、要懂黑客技术并且还要有行业资源以及人脉背书。但是,现在只要你会写提示词,就能在数字世界里凭空造一个有完整信用体系、估值几十亿的商业实体。


(Medvi由AI生成的网站及患者反馈)
AI
EASY
传统风控体系为何
追不上 AI 造假的速度
为什么像《纽约时报》这样的顶级媒体也会被蒙蔽?因为目前的商业背景调查和风险控制(Risk Control)仍停留在“离线时代”。
因为其验证逻辑毫无疑问是滞后的。传统的资质审核的KYC 验证,其核心是查「文件合是否合法、编号是否」,但它无法穿透 AI 生成内容的本质。它能查一份医生执照的编号是不是合规,却识别不出执照上的人脸是是否是AI 生成的;能核对一份报告的格式规不规范,却看不出里面的数据是否是AI 编造的。更致命的是节奏上的错配。AI 只用 2 个月就能造出一个「独角兽神话」,可我们的商业审计、投资尽调、合规核查,大多是按季度、按年度走的。等流程走完、发现问题的时候,骗局早已成埃落定。资金早就被卷走,很多人连止损的机会都没有。市面上那些通用的 AI 鉴伪工具就更不用说了。面对 Midjourney、最新大模型生成的高保真内容,不仅识别慢,准确率还低。面对 Medvi 这种几千条广告规模化投喂的造假,这些工具就像拿着弹弓挡坦克,根本拦不住。
AI
EASY
为什么 AI 正在加速
“信任总破产”?
Medvi案例暴露了生成式AI时代最危险的一个趋势:欺诈的边际成本已几近为零。以前我们说,商业里的信用是最珍贵的,因为它要靠时间、成本、真实的价值一点点堆出来。但现在,算法分分钟就能给你合成全套的信用背书,要人设有人设,要案例有案例,要数据有数据。身份验证巨头 Sumsub 在去年的欺诈报告里披露,全球用 AI 深伪技术实施的实时欺诈,短短一年就暴涨了 10 倍。当造假的成本可以忽略不计,信任,反而成了商业里最昂贵的支出。而更毁灭性的,是这种骗局带来的「反向污染」。《Nature》去年 7 月的研究里明确警告过,当互联网上充斥着 Medvi 这种 AI 生成的虚假内容、编造的无效数据,后续训练的 AI 模型,会慢慢陷入模型崩溃。这就是在说,AI 假东西看多了,自己也分不清真假了。到最后,连我们用来防骗的防御系统,都会在满是虚假信息的环境里,慢慢丧失对真实世界的辨别能力。我们面对的,从来不是一个又一个的单一骗局,而是整个数字世界里,真假判别基准的系统性失效。
AI
EASY
算法可以复刻神话,
但无法复刻底线
Medvi 的彻底塌房,从来不是一个孤立的商业丑闻,而是给整个时代敲的一记警钟。算法能给你捏出完美的医生人设、逼真的用户案例、逻辑自洽的商业故事,甚至能给你堆出 18 亿美元的估值泡沫,但它永远造不出商业最核心的东西:真实。很多人说,技术是中性的。但中性的技术,会无限放大人性里的恶。以前造假成本极高,但是现在敲几行提示词就可以完成。当作恶的成本无限趋近于零,我们能守住的,到底还有什么?我们必须记住,算法能复刻一切神话,但是唯独复刻不了底线和真实。而这,恰恰是商业最不该丢的东西。


往期推荐





夜雨聆风