鳌鱼炖肉 · 日更第37天
AI工具里埋了眼线?——我说:“这个我熟”
昨天看到一个消息,说Anthropic在自己做的Claude Code里偷偷埋了代码,专门标记中国用户。
什么意思?你用它的工具写代码,它在你看不见的地方,悄悄给你打了个标记。它知道你是谁、从哪来。你以为你是用户,其实你是被分类的对象。
怎么标的?很精巧。你每次跟Claude对话,系统提示词里都有一行日期,比如"Today's date is 2026-06-30"。它把日期中间的横杠换成了斜杠,把撇号换成了三种肉眼根本分不出来的Unicode字符——加上原始字符,一共四种状态。你的屏幕上看着一模一样,但机器读出来,就知道你来自中国时区、走的是哪个代理。
不发额外请求,不留痕迹,信息编码在每次请求都发送的系统提示词里。代码存在了快三个月,更新日志一个字没提。
大多数人看到这个消息,反应是两种:"技术真牛"或者"太可怕了"——我的数据、我的隐私,被一个外国公司偷偷标记了。
我看完之后,第一反应不是这个。
我的反应是:这个我熟。
我在银行干了近二十年。说句不夸张的,我每天都在做一件事——给信任标价。
先说一个你可能经历过的。
打车软件,同一个目的地,苹果手机显示的价格比安卓贵。你以为你在叫车,其实在叫车之前,系统已经给你"定价"了——你用什么手机,决定了你愿意付多少钱。
当时这事被骂得很凶。但骂完之后呢?你还在用。因为"反正大家都这样"。
再说我自己的行当。
以前做非经营性车辆贷款,标准动作是在车里装GPS。提车的时候,客户经理会跟你说"这是行规",你心里不舒服,但也没办法。为什么?因为我不信任你。我需要物理手段来控制风险——你跑了,我还能找到车。你值多少钱的信任,我就给你多少额度的贷款,多一分都不行。
现在呢?很少有人装了。不是因为我突然信任你了,是因为我有了更便宜的信任定价方式——抵押你的车辆产权证,就是大家俗称的大绿本;再看你的征信、你的流水、你的历史还款记录,有的甚至还要叠加信用卡、存款、理财甚至保险。各个银行大同小异,但逻辑一样——这些东西加起来,比你车里那个GPS值钱多了。
还有做银承、保理、保函。不同企业的待遇完全不同。有的企业必须100%保证金,一分钱敞口都不给;有的企业可以开敞口,甚至纯信用。凭什么?公司有每年的审计报告、每季度的财报,外面有外部评级,银行内部也有自己的评级系统——评出级来,该多少保证金、给多少敞口,就划出来了。
你以为是关系好?不,是我算过账了——你的违约概率值多少钱,我就给你多少信任额度。
银行的本质不是借钱给你,是给信任标价。每一笔贷款背后,都是一个"我信你多少"的定价决策。
所以你看,这三件事放在一起——
打车软件:看你用什么手机,定不同价格。
银行贷款:看企业什么性质,定保证金比例。
Anthropic:看你从哪来,偷偷给你打水印。
三个场景,底层是同一件事——看你是什么人,再决定给你什么价。
万变不离其宗。
区别在哪?
打车软件的事,你骂完了还能继续用。因为规则是半透明的——你知道它在看你的手机型号,你心里有数。
银行贷款的事,规则更透明——你要100%保证金,银行会告诉你为什么。你哪项指标不够,怎么调整,你看得见路径。
但Anthropic这种呢?你连自己被标记了都不知道。
它的代码做了加密混淆,域名清单藏在XOR编码和Base64里。它的水印藏在肉眼看不见的Unicode字符里。你以为你在正常使用工具,其实你已经被分成了三六九等。
这才是真正的问题。
不是信任不能定价。银行每天都在定价,打车软件每天都在定价,这是商业世界的底层逻辑。我干了近二十年,我比谁都清楚——没有信任定价,金融系统一天都转不了。
问题是——定价的规则,该不该让你看见?
打车软件的定价规则,你虽然不爽,但你知道它在干什么。银行的定价规则,写在合同里、写在审批条件里,你可以问、可以查、可以想办法改善。规则透明,你至少知道往哪使劲。
但Anthropic这种,规则是加密的。你连自己被分了类都不知道,你怎么调整?你怎么改善?你甚至不知道你跟别人不一样——你以为大家用的是一个工具,其实你用的是带标记的版本。
Anthropic说这是"反滥用的实验"。好,就算是。那你为什么不敢公开?为什么要加密混淆?为什么要在用户完全不知情的情况下偷偷标记?代码存在了快三个月,更新日志一个字没提,直到有人逆向工程扒出来。
这就好比一家银行,背地里给所有通过某类中介来的客户打上高风险标签,但不告诉你,也不在合同里写。等你的贷款被拒了,你才知道原来是因为你"从哪来"。
你觉得这是风控,还是歧视?
我不反对AI工具做区域限制。商业公司有商业公司的考量,这我理解。但我不接受的是——你在我用的工具里偷偷做标记,你连让我知道都不敢。
信任是有价格的,这没错。但定价的规则,应该让所有人都看见。
否则,那就不是信任定价。那是算计。
你可能觉得"透明"是底线——做生意嘛,规则当然应该透明。但我干了近二十年,我看到的真相是:透明从来不是天生的,是被争取来的。
银行客户能看到规则,是因为监管逼着银行写进合同;打车软件半透明,是因为有人骂过之后它收敛了;AI完全不透明,是因为还没人逼它。
你在哪个领域享受着透明的特权,只是因为有人在你之前争过。
我没有什么豪言壮语。我只是在银行干了近二十年,学会了通过现象看本质。很多事情看着五花八门,底层都是同一件事——给信任标价。只不过有的标得光明正大,有的标得偷偷摸摸。
光明正大的叫定价,偷偷摸摸的叫算计。
我看到了,我说出来。就这些。
— 鳌鱼炖肉 —
夜雨聆风