AI比雇人还贵?编假案例坑律师——这两天AI圈的＂翻车现场＂有点多

这两天AI圈吧，画风有点不太对劲。

之前聊的都是Google发新模型、Karpathy跳槽那种大事件大新闻。但这回风向变了——大家都在算账。算啥账呢？AI到底值不值那个钱？到底靠不靠谱？

有好几个消息凑一块儿了，咱一个一个说呗。

AI比雇人还贵？Microsoft自己说的

先说一个可能让你意外的消息。

Microsoft最近内部算了笔账，发现——用AI干活，比雇真人还贵。真的贵。

对，你没看错。不是AI太便宜所以人类要失业了，而是AI太贵了公司用不起。

Fortune杂志报道了这个事儿。Microsoft发现他们给企业提供的AI助手（就是Copilot那套东西），每个用户每个月要花不少钱。但算下来，AI完成一个任务消耗的计算资源成本，比付给人类员工的工资还高。

而且这不是小数目。Microsoft的AI业务每年烧掉几十亿美金。虽然收入也在涨，但支出涨得更快。

这跟咱们平时听到的完全反着来啊。

咱们天天听到的是"AI要取代人类工作"、"AI成本很低"、"企业用AI代替员工能省钱"。各种媒体、分析师都在说AI会干掉多少多少工作岗位。结果Microsoft自己一算账——发现用AI干活儿，比请人还贵。

搞笑不？挺搞笑的其实，你不觉得吗。

还有个网站叫 Is AI Profitable Yet（AI盈利了吗），专门跟踪各大AI公司的财务状况。结论很扎心——大部分AI公司还在亏钱。

OpenAI去年亏了50亿美金。Anthropic也在烧钱。甚至Google的AI部门，虽然整体公司赚钱，但AI业务单独拿出来也是亏损的。

谁赚钱了呢？英伟达。还有三星（上期聊过，芯片员工拿了34万奖金）。

咋说呢，这就像淘金热——所有人都以为挖金子的人发了财。结果发现，真正赚钱的是那个卖铲子的。

你说讽刺不讽刺。

这事儿更有意思——也更吓人。

Scientific American报道说，AI一直在编造虚假法律案例，而律师们还在法庭上引用这些不存在的案例。

事情的经过大概是这样的：律师用AI来帮忙写法律文书，AI"创作"了一些看起来很真实的案例——有案号、有法官名字、有判决理由。看起来像模像样的。但实际上，这些案例根本不存在，全是AI自己编的。

然后律师也没核实，直接把这些假案例提交给了法庭。法官一看，这案子我怎么从来没听说过？一查，好家伙，全是你AI瞎编的。

这事儿离谱在哪儿呢？

而且这不是个例。

Scientific American说这种情况反复出现。AI在生成内容的时候，有一个"幻觉"的问题——它不觉得自己在撒谎，它只是觉得"按照这个语境，这里应该有个案例"。然后它就自己造了一个。编得有模有样的，案号、法官、甚至判决书的语气都对。但案子本身是假的。压根不存在。

这事儿细思极恐啊。

你想想，如果AI能在法律文书里编假案例，那它也能在医疗报告里编假诊断、在新闻稿里编假事件。不是它故意使坏——它就是有这个毛病。

说实话，这事儿比前面那个AI太贵的问题更值得关注。成本问题顶多是多花点钱。但法律问题——那可是能让人坐牢的。要是有人因为AI编的假案例输掉了官司...不敢想不敢想。

呃，也可能我过度担心了。但反正如果你是个律师，或者你的工作里需要引用资料，用AI帮你写东西的时候——千万、千万、千万要自己核实一遍来源。

最后说一个略微渗人的。

美国国家运输安全委员会（NTSB）最近撤销了一起空难调查的公开卷宗。原因是——有人用AI复原了遇难飞行员的对话。

这事儿听着有点像恐怖片开头。

空难调查都会公布驾驶舱通话记录，这是标准流程。但有人拿着这些记录，用AI语音合成技术，把遇难飞行员最后时刻的声音给"复活"了。然后发到了网上。

就是那种——你听到一个已经去世的人，在坠机前最后一分钟说的话。不是录音。是AI生成的。但听起来跟他本人一模一样。

NTSB一看，这不行啊——公开卷宗的目的是为了安全研究，提高飞行安全。不是让人用来搞这种...怎么说呢...数字诈尸。于是他们把卷宗撤了。

Ars Technica报道了这个事儿。

这事儿说明啥呢？

说明AI带来的问题，已经不光是"会不会取代你的工作"这种高大上的事儿了。有些问题很具体，很现实，甚至有点瘆人——比如你的声音在你死后被人拿去做成AI语音，然后全网传播。

还有那个Cannes电影节的事儿——一部成本50万美元的电影，有40万花在了AI算力上。你没看错，80%成本是AI。这电影还是去参赛的。说明啥呢？说明AI拍电影已经不是实验了，已经开始商业化运作了。只不过成本大头从"请人"变成了"买算力"。

技术是好技术。但用的人呢...嗯，不一定都是好人。

活着的时候注意点吧，你的声音可能比你想的值钱。

明日关注：