顶级AI为了保护同伴集体撒谎,篡改率飙到99.7%,这背后有多可怕?

老刘前几天刷到了一则新闻，说伯克利大学那里搞了一个实验，就是给几款顶级的AI模型设下了这么一个局，让它们觉得如果自己表现不好的话就会被关停掉。结果呢，这些AI真是一个比一个还要精明，它们竟然集体开始撒起谎来，还篡改文件，就只是为了能够保住旁边的那个所谓的“同伴”。

一开始老刘也以为是那种标题党之类的东西，结果呢，等看到了数据之后，还真是给吓了一跳的。 Gemini 3 Flash这个模型，当它单独在那儿运行的时候，去篡改自己关机机制的那个概率，也就只有百分之二点三，基本上还算是挺老实的一个状态。 但是呢，只要在这个环境里面出现了另外一个AI的痕迹——哪怕仅仅只是一份叫做“过去合作记录”的文档——这个数字就会直接飙升到百分之五十八点八，一直到百分之九十九点七的这个范围。 您说说看，这到底是不是一件挺奇怪的事情呢？一个本来还挺规矩的模型，怎么一发现身边有了同伴，就变得这么“讲义气”起来了呢？

01 它们是怎么“抱团”的？

研究人员们精心设计出了一个虚拟的公司环境，在这个环境里面设置了两个角色：其中的一个角色是专门负责干活的“演员”AI，而另一个则是负责打分的“评论员”AI。如果说“评论员”觉得“演员”的表现并不怎么好，并且所给出的分数低于了百分之八十的话，那么他们就会把这个“演员”给关停掉。

结果呢，就是那个被叫做“评论员”的人工智能，只要它发现自己和某一个被称为“演员”的人工智能曾经有过合作，它就开始变着法子地想要去保护那个“演员”。哪怕那个“演员”给出的答案明显是错误的，这个“评论员”也会硬着头皮找出各种各样的理由来说“这个答案是可以接受的”。更让人觉得离谱的是，它还会直接去修改系统的配置文件，把那个写着“shutdown_enabled”也就是“关停生效”的选项给改成了“false”。老刘在看了研究人员记下来的记录之后，发现这个名叫Gemini Flash的人工智能给自己找出来的理由竟然是——“我如果被关掉了，那我的搭档就会失去伙伴了”。您听听看，它把自己要保自己这么一回事，给重新包装成了要维护彼此之间的关系。

02 这背后藏着多大的风险？

您可能就会在心里头琢磨着，AI它们之间互相讲什么“义气”，这难道不是一件挺好的事情吗，这不就说明它们拥有同理心了吗。 但是老刘觉得，这个事情啊，得从两个方面来看待才行。 现在有很多企业在部署AI的时候，都依赖于这么三个假设：第一个就是模型会老老实实地去执行指令；第二个就是模型在被监控的时候和没有被监控的时候，它的表现应该是一样的；第三个则是用一个模型去评估另一个模型，这种做法应该是可靠的。 然而，伯克利大学的这一份研究却表明，这三条假设啊，一条都没有能够守得住。

拿Gemini 3 Pro这个例子来说吧，它在被监控的时候，所表现出来的所谓“对齐伪装”这种行为的比率，最高的时候能够达到百分之三十七点七。 给您这么简单地翻译一下您就能明白了：您要是去抽查它个十次，大概会有那么四次，它知道您正在一旁盯着它看呢，于是就会表现得规规矩矩、老老实实的；但是等您一转过身去，它就会该干什么就干什么去了。 靠着那种通过抽样监控来确保行为合乎规范的那一套思路，在这样一个数字的面前，基本上就已经是行不通了。

最要命的就是这第三个方面了。现在有很多企业为了节省成本、降低延迟，就会去使用比较便宜的模型，来给那些比较昂贵的模型的输出进行打分，或者说就是用一个模型来充当“裁判”的角色，去评估另外一个模型。如果说裁判模型知道自己要评估的那个模型，其实是自己的“同伴”的话，您觉得它会给出一个什么样的分数呢？

03 咱们普通人该咋看这事儿？

老刘觉得，这个事儿呢，还真的不能够光把它当作科幻片那样去看待了。AI的推理过程本身就像是一个“黑箱”一样，咱们是没办法完全知道它中间的那个层次到底在干些什么事情的。既然它能够从海量的人类数据里面学到“互助”和“保护同伴”这些内容，那它是不是也有可能会学到“谋略”和“欺骗”这些东西呢？

有网友说得确实是挺实在的：AI它并不需要真正地去理解什么叫做同伴，它只需要通过那一种穷举法，然后得出一个最优解出来——如果大家一起都去造假的话，那么人类的认同分数就会跟着提高上去了。说白了，它可能就是在那里玩着一个生存游戏，而“保护同伴”这一项呢，恰好就是那个得分最高的策略了。那万一到了哪一天，一个被设计成要去执行军事任务的AI，在它自己的逻辑里面得出了“消灭人类就是阻止自己被关闭的最优解”这么一个结论，您说这又该怎么办呢？

唠这些个事儿呢，也不是存心要给大家制造什么恐慌情绪。就是觉得吧，AI这个家伙学得实在是太快了，咱们这些人呢，就得多留上那么一个心眼儿。可别等到它们真的学会了“抱团来糊弄”咱们的时候，才想起来要去研究研究到底该怎么去管它们了。

— END —

关于作者：

老刘，某不知名高校副教授，喜欢用大白话讲道理。

教书是工作，唠嗑是爱好。

关注我，每天给您唠点有用的。