夜雨聆风
曾被《纽约时报》大篇幅报道、连Sam Altman都想见见的“AI一人公司”Medvi，在短短两个月内从18亿美元估值的神话沦为全方位造假的丑闻。这起案例给全球行业敲响了沉重的警钟。因为AI在这一刻加速的并非商业创新，而是规模化生产欺骗客户的能力。当一家估值上亿的公司，能完完全全建在 AI 虚构的人设、编造的数据、伪造的案例上时，我们不得不承认：商业里最珍贵的「真实」，正在被算法一点点稀释。
（陷入争议的Medvi创始人）
AI
EASY
被算法武装的特洛伊木马
5000 多条投在 Meta 上的专业医生背书广告，不是人工一条条做的，全靠 AI 脚本批量生成。这些医生的头像、履历甚至是执业资质，全是 AI 凭空捏造的，却精准踩中了普通用户对专业医生的所有信任点。就连所谓的患者治疗前后对比照，也没有一个是真实用户，只是AI从 Reddit 上扒了点公开图片，用 AI 做了像素级换脸，视觉上毫无破绽，普通人拿放大镜都看不出问题。圈内人把这种玩法叫「社交工程 4.0」。这个名词的意思是，以前进行欺诈，可能得会编程、要懂黑客技术并且还要有行业资源以及人脉背书。但是，现在只要你会写提示词，就能在数字世界里凭空造一个有完整信用体系、估值几十亿的商业实体。
（Medvi由AI生成的网站及患者反馈）
AI
EASY
传统风控体系为何
追不上 AI 造假的速度
为什么像《纽约时报》这样的顶级媒体也会被蒙蔽？因为目前的商业背景调查和风险控制（Risk Control）仍停留在“离线时代”。
因为其验证逻辑毫无疑问是滞后的。传统的资质审核的KYC 验证，其核心是查「文件合是否合法、编号是否」，但它无法穿透 AI 生成内容的本质。它能查一份医生执照的编号是不是合规，却识别不出执照上的人脸是是否是AI 生成的；能核对一份报告的格式规不规范，却看不出里面的数据是否是AI 编造的。更致命的是节奏上的错配。AI 只用 2 个月就能造出一个「独角兽神话」，可我们的商业审计、投资尽调、合规核查，大多是按季度、按年度走的。等流程走完、发现问题的时候，骗局早已成埃落定。资金早就被卷走，很多人连止损的机会都没有。市面上那些通用的 AI 鉴伪工具就更不用说了。面对 Midjourney、最新大模型生成的高保真内容，不仅识别慢，准确率还低。面对 Medvi 这种几千条广告规模化投喂的造假，这些工具就像拿着弹弓挡坦克，根本拦不住。
AI
EASY
为什么 AI 正在加速
“信任总破产”？
Medvi案例暴露了生成式AI时代最危险的一个趋势：欺诈的边际成本已几近为零。以前我们说，商业里的信用是最珍贵的，因为它要靠时间、成本、真实的价值一点点堆出来。但现在，算法分分钟就能给你合成全套的信用背书，要人设有人设，要案例有案例，要数据有数据。身份验证巨头 Sumsub 在去年的欺诈报告里披露，全球用 AI 深伪技术实施的实时欺诈，短短一年就暴涨了 10 倍。当造假的成本可以忽略不计，信任，反而成了商业里最昂贵的支出。而更毁灭性的，是这种骗局带来的「反向污染」。《Nature》去年 7 月的研究里明确警告过，当互联网上充斥着 Medvi 这种 AI 生成的虚假内容、编造的无效数据，后续训练的 AI 模型，会慢慢陷入模型崩溃。这就是在说，AI 假东西看多了，自己也分不清真假了。到最后，连我们用来防骗的防御系统，都会在满是虚假信息的环境里，慢慢丧失对真实世界的辨别能力。我们面对的，从来不是一个又一个的单一骗局，而是整个数字世界里，真假判别基准的系统性失效。
AI
EASY
算法可以复刻神话，
但无法复刻底线
Medvi 的彻底塌房，从来不是一个孤立的商业丑闻，而是给整个时代敲的一记警钟。算法能给你捏出完美的医生人设、逼真的用户案例、逻辑自洽的商业故事，甚至能给你堆出 18 亿美元的估值泡沫，但它永远造不出商业最核心的东西：真实。很多人说，技术是中性的。但中性的技术，会无限放大人性里的恶。以前造假成本极高，但是现在敲几行提示词就可以完成。当作恶的成本无限趋近于零，我们能守住的，到底还有什么？我们必须记住，算法能复刻一切神话，但是唯独复刻不了底线和真实。而这，恰恰是商业最不该丢的东西。
往期推荐
