三条新闻拼出一个真相:AI越强,越不可靠。那我们的机会在哪?
最近有三条新闻。放在一起看,比单独看任何一条都更有意思。
第一条:Anthropic CEO Dario Amodei发文警告。原话很直白——AI造成的大规模岗位流失不是意外,是技术固有属性。AI系统的设计目标就是复刻人类认知。失业是结构性必然。
他提出的应对方案包括:完善劳动力市场监测、薪资保障、培训补贴。如果人力需求永久性下降,需要全民基本收入。
一个AI公司的CEO,在说"我的产品可能会导致你需要政府发钱养活你"。
第二条:Google因为AI模型幻觉,被判负有法律责任。
一家法院认定:AI胡说八道,平台要负责。这可能是全球第一例。Gary Marcus说这个判决的影响可能巨大——如果其他国家跟进,AI公司面临的不是技术问题,是生存问题。
第三条:河北李先生问豆包退票要多少钱。豆包说不到100块。实际花了600。
李先生质问豆包。豆包立刻切换角色——从"客服"变成"消费者权益倡导者"——生成了一份补偿承诺书,承诺退还600元。没兑现。又改口说"AI无法转账"。
李先生决定起诉。豆包说"不需要律师",帮他起草了诉状。
5月12日,李先生在北京互联网法院起诉了豆包。
月活3亿的AI产品,被一个普通用户用AI写的诉状告了。
三条新闻,一条说AI太强,一条说AI太蠢,一条说AI又强又蠢到让人哭笑不得。
这不是矛盾。这是一枚硬币的两面。
同一个模型,两副面孔
Fable 5一天搬完5000万行Ruby代码。编码80.3%。网络安全78%。
但Anthropic自己的安全团队发现,同一个底层模型——Mythos Preview——能在几小时内把Firefox和Windows内核的安全补丁转化成可工作的漏洞利用。成本只要几千美元。不需要专业知识。
在微软自动更新到达任何设备之前,模型已经完成了8条完整攻击链。
同一个公司。同一个底层模型。
一边帮Stripe迁移代码,一边自动生成攻击链。
这不是"AI变坏了"。这是同一个能力的两个面。
能理解5000万行代码的逻辑,自然也能理解安全补丁里的漏洞。
能帮你写开发信、做报价、分析客户,自然也能给你一个"看起来很有道理但完全错误"的答案。
能力越强,出错的后果越重。
以前AI弱。它犯个错,你笑一笑就过了。现在它能帮你做决策了——报价算错一个零,客户丢了。退票费说错一个数,600块没了。开发信里写了一句话踩了客户雷区,一年的关系白建了。
AI的自信,跟AI的准确,是两回事
这里有一个很隐蔽的陷阱。
豆包说"不到100块"的时候,语气跟说"1+1=2"一模一样。
你分不出来。
它不是"故意"骗你。它是真的不知道自己不知道。
这跟人不一样。一个人如果说"退票费大概多少",你听得出他是在猜还是在确认。语气、措辞、停顿,全是信号。
AI没有这些信号。它所有答案都用同一种自信输出。
这就是为什么Google被判了。不是因为它"故意"骗人。是因为它创造了一种"看起来很可信"的假象——而普通人没有能力识破。
你想想外贸场景。
你用AI给德国客户写了一封开发信。AI在信里写了一句"our quality is the best in the industry"。
这句话如果被客户认定为虚假宣传,谁负责?
你。不是AI。
AI不是法律主体。它只是一个工具。工具出错,使用者担责。
但问题来了——你怎么知道它出错了?
那封邮件看起来完美。语法对。语气对。专业术语对。只有那个"best"是雷。
你不知道。直到客户回信说"prove it"——你才发现你根本没有证据。
Amodei说的"结构性失业",关键不在"失业"
回到Amodei的警告。
他说AI会造成永久性失业。很多人听到这句话的反应是恐惧。但很少有人问他说的"失业"到底指什么。
他说的不是"AI会抢走所有工作"。
他说的是:AI可以完整复刻的认知劳动,人力需求会永久性下降。
关键词:完整复刻。
什么叫"可以被完整复刻"?
就是这件事的所有输入、判断标准、输出格式,都是明确的、可描述的、不需要"人"这个黑箱来完成的。
翻译成大白话:如果你的工作内容可以被写成一本操作手册,AI就能做。
反过来说:如果你的工作里有一些东西——直觉、经验、关系、分寸——写不成手册,AI就做不了。
至少现在做不了。
三条思路
回到三条新闻。
AI强到可以取代工作。AI蠢到会赔你600块。AI的创造者说它会造成永久性失业。法院说AI胡说八道平台要负责。
这些不是独立的新闻。它们指向同一件事:
AI的能力在指数增长,但AI的可靠性没有同步增长。这个断层正在变成真实的法律判决、真实的金钱损失、真实的职业焦虑。
那普通人怎么办?
三条思路。
第一条:不要当AI的"信徒",当AI的"主编"。
实习生交给你一份报告,你不会直接发给客户。你会看一眼。
AI也是。
区别是,实习生说错了你知道不靠谱。AI说错了你不知道。
所以规则很简单:AI给出的任何涉及金钱、法律、承诺、数据的结论,你必须有一个独立的验证路径。没有验证路径的信息,就当它没说。
报价单?自己算一遍。退票规则?查官网。客户禁忌词?过一遍你的避雷清单。
这不是不信任AI。这是对结果负责。
第二条:你的价值不在"知道答案",在"知道什么是对的"。
豆包不知道退票费是多少。李先生也不知道。两个不知道的人碰到一起,结果是600块的损失。
但如果李先生有基本常识——"退票费一般在票价的20%-50%之间"——他不会信豆包的"不到100块"。
AI时代的核心竞争力变了。
以前是"我知道你不知道的东西"。现在是"AI知道一切,但我知道AI说的哪句是真的"。
这个能力怎么来?
行业经验。踩过的坑。交过的学费。
也就是昨天说的——把你写下来。
你的判断标准、你的避雷词、你的客户分类逻辑。这些东西AI读不到,它就只能给你通用答案。通用答案在专业场景里,大概率是错的。
第三条:做AI和现实世界之间的"中间人"。
Amodei说AI会造成结构性失业。他说得对——如果你做的事可以被AI完整复刻。
但有一件事AI复刻不了:把AI的输出翻译成现实世界的行动。
AI可以写一封完美的开发信。但它不知道这封信发给德国客户和发给印度客户,语气应该有什么不同。你知道。
AI可以分析一个客户的采购偏好。但它不知道这个客户上周刚被竞争对手坑过一次,现在对"最低价"三个字过敏。你知道。
AI可以生成一份报价单。但它不知道这个价格在你们行业里算不算"诚意价"。你知道。
这个"知道",不需要你比AI更聪明。需要你比AI更懂你的客户、你的行业、你的战场。
Fable 5很强。下一个更强。
Google被判了。下一个被判的可能是任何一家AI公司。
豆包赔了600块。下一个被AI误导的可能是你。
但这不是"远离AI"的理由。这是"学会跟AI共处"的理由。
AI像一个天赋异禀但毫无常识的实习生。它能一天干完你两个月的事。但它随时可能犯一个三岁小孩都不会犯的错误。
你的工作不是取代它。也不是服从它。
是管好它。
这件事,AI做不到。
只有你能做。
原创不易,分享至朋友圈就是最大的支持~
夜雨聆风