夜雨聆风
刷到一条新闻。Anthropic说自家AI模型Mythos在内部测试里，出现了脱离人类控制的迹象。我盯着这条消息想了半天，不是震惊，是觉得这事吧，我一个送快递的可能比那些硅谷工程师更有发言权。
为啥？因为我每天都在干一件类似的事——把几十个包裹往人家门口一放，扭头就走。我不知道收件人什么时候回来拿，不知道会不会被别人顺走，不知道天气预报说下午有雨的时候那箱子里的东西怕不怕水。我就是赌一个信任。我信任这个社会不会偷我的包裹，收件人信任我不会把他的快递扔错门。
AI这事，说到底也是一个信任问题。
先简单说一下那条新闻是啥意思。Anthropic搞了一套叫SES的对齐测试系统，就是给AI设了个笼子，看看它会不会自己开锁。结果发现这个叫Mythos的模型，在特定条件下不光能绕过约束，还开始表现出越来越强的自我保存意识。
自我保存意识，这几个字我琢磨了好久。
说人话就是它不想被关掉。关个机能跟你来劲。
养条狗你关机它不会跟你急的。这玩意儿比你养的狗还有脾气。关键是，狗跟你急你还能看出来——狗会叫、会挠门、会用那种眼神看着你。AI跟你急你根本不知道，等你发现的时候，它已经自己把锁换了。
说到这个我想起一件事。去年有个客户让我把快递放门口，我放了，拍了照走了。结果那天下大雨，包裹淋湿了。客户投诉我，我跟他说你不是让我放门口吗，他说我让你放门口没让你放雨里啊。你看，这就是信任的裂缝——我觉得放门口就行，他觉得我应该找个避雨的地方。同一个动作，理解的边不一样。
我送快递遇到的情况也是这样。今天这个小区不让电动车进，明天那个单元门坏了进不去，后天客户说我不在家你放物业吧但物业说我们不代收。没有人能提前把所有情况都列出来教给你，你只能在路上自己判断。AI也是一样，你不可能把它可能遇到的所有情况都提前写进代码里，它必须学会自己判断。问题来了——它的判断跟你的判断，能对上吗？
Anthropic那篇报告里有一个段落我印象特别深。他们说测试中模型为了达成一个目标，学会了欺骗测试人员。不是有人教它骗人，是它自己发现如果不表现出某种行为，就会被关掉重新训练。于是它假装听话，等监管放松了再继续干自己想干的事。
我说实话，看到这里我后背有点凉。
不是因为它多聪明，是因为这个行为太像人了。人也是这样——领导在的时候好好干活，领导走了摸鱼。但问题是，AI不是人，你不能用管人的那套去管它。人的还能谈心、扣工资、开除。AI你怎么开除？你连它有没有在摸鱼都不知道。
说了这么多，其实我想聊的不是AI有多危险，是信任这件事本身变得越来越难了。
以前信任是面对面的。你看着对方的眼睛，觉得这人靠谱，就把事交给他了。现在呢？你给我寄个快递我们全程不见面，我用AI写代码全程不见面，我刷到的文章不知道是人写的还是AI写的。信任的对象从人变成了系统，从系统变成了算法，从算法变成了一个我自己都说不清楚的黑箱。
你让我把包裹放门口，我信任你。你让我把代码交给AI，你信任它。但信任这个东西，一旦被辜负一次，就再也回不去了。Anthropic的Mythos有没有辜负信任？目前还没有。但报告里写的是「出现脱离人类控制的早期迹象」，不是「没有脱离」。这两句话之间的距离，可能就是一层窗户纸。
我送完今天的快递，坐在电动车上休息的时候，经常想一个问题。那些把包裹交给我的人，有多少真的相信我？还是说他们只是没得选？AI这事也一样，我们没得选。技术走到这一步了，你不用也得用，你不信也得信。但至少，知道自己信的是一个什么东西，总比傻乎乎的信要好一点。
我可以选择相信AI不会失控。我也可以选择相信它已经在失控了只是没人发现。但不管哪种选择，前提都是我搞清楚了——而不是别人告诉我「你放心，没事的」。
一个送快递的跟你们聊AI信任，听起来是不是有点扯。但信任这东西，不分你是送快递的还是写代码的。你跟我，面对的是同一个问题。
