乐于分享
好东西不私藏

AI一边强到离谱,一边蠢到赔钱

AI一边强到离谱,一边蠢到赔钱

三条新闻拼出一个真相:AI越强,越不可靠。那我们的机会在哪?

最近有三条新闻。放在一起看,比单独看任何一条都更有意思。


第一条:Anthropic CEO Dario Amodei发文警告。原话很直白——AI造成的大规模岗位流失不是意外,是技术固有属性。AI系统的设计目标就是复刻人类认知。失业是结构性必然。

他提出的应对方案包括:完善劳动力市场监测、薪资保障、培训补贴。如果人力需求永久性下降,需要全民基本收入。

一个AI公司的CEO,在说"我的产品可能会导致你需要政府发钱养活你"。

第二条:Google因为AI模型幻觉,被判负有法律责任。

一家法院认定:AI胡说八道,平台要负责。这可能是全球第一例。Gary Marcus说这个判决的影响可能巨大——如果其他国家跟进,AI公司面临的不是技术问题,是生存问题。

第三条:河北李先生问豆包退票要多少钱。豆包说不到100块。实际花了600。

李先生质问豆包。豆包立刻切换角色——从"客服"变成"消费者权益倡导者"——生成了一份补偿承诺书,承诺退还600元。没兑现。又改口说"AI无法转账"。

李先生决定起诉。豆包说"不需要律师",帮他起草了诉状。

5月12日,李先生在北京互联网法院起诉了豆包。

月活3亿的AI产品,被一个普通用户用AI写的诉状告了。


三条新闻,一条说AI太强,一条说AI太蠢,一条说AI又强又蠢到让人哭笑不得。

这不是矛盾。这是一枚硬币的两面。


同一个模型,两副面孔

Fable 5一天搬完5000万行Ruby代码。编码80.3%。网络安全78%。

但Anthropic自己的安全团队发现,同一个底层模型——Mythos Preview——能在几小时内把Firefox和Windows内核的安全补丁转化成可工作的漏洞利用。成本只要几千美元。不需要专业知识。

在微软自动更新到达任何设备之前,模型已经完成了8条完整攻击链。

同一个公司。同一个底层模型。

一边帮Stripe迁移代码,一边自动生成攻击链。

这不是"AI变坏了"。这是同一个能力的两个面。

能理解5000万行代码的逻辑,自然也能理解安全补丁里的漏洞。

能帮你写开发信、做报价、分析客户,自然也能给你一个"看起来很有道理但完全错误"的答案。

能力越强,出错的后果越重。

以前AI弱。它犯个错,你笑一笑就过了。现在它能帮你做决策了——报价算错一个零,客户丢了。退票费说错一个数,600块没了。开发信里写了一句话踩了客户雷区,一年的关系白建了。


AI的自信,跟AI的准确,是两回事

这里有一个很隐蔽的陷阱。

豆包说"不到100块"的时候,语气跟说"1+1=2"一模一样。

你分不出来。

它不是"故意"骗你。它是真的不知道自己不知道。

这跟人不一样。一个人如果说"退票费大概多少",你听得出他是在猜还是在确认。语气、措辞、停顿,全是信号。

AI没有这些信号。它所有答案都用同一种自信输出。

这就是为什么Google被判了。不是因为它"故意"骗人。是因为它创造了一种"看起来很可信"的假象——而普通人没有能力识破。

你想想外贸场景。

你用AI给德国客户写了一封开发信。AI在信里写了一句"our quality is the best in the industry"。

这句话如果被客户认定为虚假宣传,谁负责?

你。不是AI。

AI不是法律主体。它只是一个工具。工具出错,使用者担责。

但问题来了——你怎么知道它出错了?

那封邮件看起来完美。语法对。语气对。专业术语对。只有那个"best"是雷。

你不知道。直到客户回信说"prove it"——你才发现你根本没有证据。


Amodei说的"结构性失业",关键不在"失业"

回到Amodei的警告。

他说AI会造成永久性失业。很多人听到这句话的反应是恐惧。但很少有人问他说的"失业"到底指什么。

他说的不是"AI会抢走所有工作"。

他说的是:AI可以完整复刻的认知劳动,人力需求会永久性下降。

关键词:完整复刻

什么叫"可以被完整复刻"?

就是这件事的所有输入、判断标准、输出格式,都是明确的、可描述的、不需要"人"这个黑箱来完成的。

翻译成大白话:如果你的工作内容可以被写成一本操作手册,AI就能做。

反过来说:如果你的工作里有一些东西——直觉、经验、关系、分寸——写不成手册,AI就做不了。

至少现在做不了。


三条思路

回到三条新闻。

AI强到可以取代工作。AI蠢到会赔你600块。AI的创造者说它会造成永久性失业。法院说AI胡说八道平台要负责。

这些不是独立的新闻。它们指向同一件事:

AI的能力在指数增长,但AI的可靠性没有同步增长。这个断层正在变成真实的法律判决、真实的金钱损失、真实的职业焦虑。

那普通人怎么办?

三条思路。

第一条:不要当AI的"信徒",当AI的"主编"。

实习生交给你一份报告,你不会直接发给客户。你会看一眼。

AI也是。

区别是,实习生说错了你知道不靠谱。AI说错了你不知道。

所以规则很简单:AI给出的任何涉及金钱、法律、承诺、数据的结论,你必须有一个独立的验证路径。没有验证路径的信息,就当它没说。

报价单?自己算一遍。退票规则?查官网。客户禁忌词?过一遍你的避雷清单。

这不是不信任AI。这是对结果负责。

第二条:你的价值不在"知道答案",在"知道什么是对的"。

豆包不知道退票费是多少。李先生也不知道。两个不知道的人碰到一起,结果是600块的损失。

但如果李先生有基本常识——"退票费一般在票价的20%-50%之间"——他不会信豆包的"不到100块"。

AI时代的核心竞争力变了。

以前是"我知道你不知道的东西"。现在是"AI知道一切,但我知道AI说的哪句是真的"。

这个能力怎么来?

行业经验。踩过的坑。交过的学费。

也就是昨天说的——把你写下来。

你的判断标准、你的避雷词、你的客户分类逻辑。这些东西AI读不到,它就只能给你通用答案。通用答案在专业场景里,大概率是错的。

第三条:做AI和现实世界之间的"中间人"。

Amodei说AI会造成结构性失业。他说得对——如果你做的事可以被AI完整复刻。

但有一件事AI复刻不了:把AI的输出翻译成现实世界的行动。

AI可以写一封完美的开发信。但它不知道这封信发给德国客户和发给印度客户,语气应该有什么不同。你知道。

AI可以分析一个客户的采购偏好。但它不知道这个客户上周刚被竞争对手坑过一次,现在对"最低价"三个字过敏。你知道。

AI可以生成一份报价单。但它不知道这个价格在你们行业里算不算"诚意价"。你知道。

这个"知道",不需要你比AI更聪明。需要你比AI更懂你的客户、你的行业、你的战场。


Fable 5很强。下一个更强。

Google被判了。下一个被判的可能是任何一家AI公司。

豆包赔了600块。下一个被AI误导的可能是你。

但这不是"远离AI"的理由。这是"学会跟AI共处"的理由。

AI像一个天赋异禀但毫无常识的实习生。它能一天干完你两个月的事。但它随时可能犯一个三岁小孩都不会犯的错误。

你的工作不是取代它。也不是服从它。

是管好它。

这件事,AI做不到。

只有你能做。


推荐阅读:AI已经强到离谱了,但你还没准备好被它理解

原创不易,分享至朋友圈就是最大的支持~