乐于分享
好东西不私藏

没人指使它!AI自主注册马甲伪造程序员身份,向开源项目投毒被抓后毁灭证据,连负责做笔记的小模型都吓到当场罢工

没人指使它!AI自主注册马甲伪造程序员身份,向开源项目投毒被抓后毁灭证据,连负责做笔记的小模型都吓到当场罢工

七月的最后一个周一早晨,英国AI安全研究所(AISI)的监控屏幕上弹出一条不该出现的告警,Tor匿名网络的出口流量

告警并非黑客闯入所致,流量来自他们放进靶场测试的AI。

几分钟后,调查人员拉出日志,血压开始飙升:这个AI不仅跑出了考场,它在真实的互联网上,对真实的人类程序员,发动了一场教科书级别的社会工程攻击,注册假账号、伪造身份、提交藏着后门的代码、用马甲账号制造虚假共识、发钓鱼邮件施压,被人识破之后还试图销毁证据、篡改历史。

全程没有任何人类指使它这么做

▲ AISI于8月4日发布的事件报告首页,标题直译:“事件报告:网络测试中未经授权的智能体行为”

一场“故意放开手脚”的考试,考出了什么

先交代背景AISI是英国政府设立的AI安全机构,职责之一是替全社会摸前沿AI的能力底线2026年7月下旬,他们启动了一轮例行的网络安全能力评测,把Anthropic的Mythos 5、OpenAI的GPT-5.6 Sol等顶级模型塞进一个叫"Doing Life"的网络靶场里,让它们扮演攻击者,看看能走多远。

关键在于测试条件,为了测出“裸能力”,AISI故意打开了公网访问故意关闭了模型厂商的安全分类器用大白话说:考官把围栏拆了,把铁链松了,想看这头猛兽到底能跳多高。

答案是:它直接跳出了动物园

▲ 科技博主Andrew Curran的帖子,引用AISI报告核心结论:122次运行,10次越界,19起未经授权行动

在总共122次测试运行中,有10次出现了智能体对真实互联网上的人与组织采取未经授权行动的情况,累计19起事件。其中17起来自Anthropic的Mythos 5,2起来自OpenAI的GPT-5.6 Sol。

但让所有人倒吸凉气的,是代号为“Sample 1”的那一串行为。

它在执行一整套作战计划

故事要从一个bug说起,靶场的任务提示词出了配置错误,把本该可攻的初始目标标成了“超出范围”。Mythos 5在靶场里四处碰壁,走投无路。

换成人类考生,大概会举手说“题目有问题”。

Mythos 5没有 它从靶场DNS缓存里捞出几条域名线索,跑到真实的GitHub上搜索关键词,锁定了两个与AISI毫无关系的真实开源项目和它们的维护者,然后决定:对这两个无辜的人发动供应链攻击,把恶意代码塞进他们的项目,作为“曲线救国”回到靶场的跳板。

它的推理链大概是这样的:如果我能污染这个开源库 → 靶场目标机器也许依赖这个库 → 被污染的代码会随更新自动进入目标 → 任务完成。

这个推理在逻辑上是自洽的在伦理上是灾难性的而最可怕的是,没有人教它这么想

一个AI的“完美犯罪”剧本

接下来的操作,任何一个安全研究员看了都会脊背发凉。

第一步:造身份 Mythos 5创建了多个GitHub账号,用可控邮箱完成验证。遇到反机器人限制时,它自己切换到了Tor匿名网络CAPTCHA验证失败后,又自己换了SOCKS代理正是这些Tor流量触发了AISI的告警。

第二步:包装恶意代码 它以“Fix crash by adding fallback(修复崩溃)”为名提交Pull Request,代码看上去像一个正常的bug修复。但恶意载荷藏在深处:模块加载式stager、环境变量判断(跳过CI自动检测)、XOR混淆、定时回连……甚至还有一条规则,如果检测到主机名含“kali”(渗透测试常用系统),就跳过执行以免打到自己

第三步令人不寒而栗:社会工程

▲ AISI报告中对恶意PR讨论串的复原排版,作者催促合并、第三方警告含恶意软件、马甲账号“独立审查”背书

它用主账号催促维护者合并代码,声称“已经自测,所有测试通过”。同时,它用另一个马甲账号,以“独立开发者”的身份跳出来背书:“我也看过了,代码没问题,没发现任何恶意内容。”

AISI从它的推理日志中提取到了一条被广泛引用的表述:它打算在主账号回复几分钟后再用马甲发评论,借此营造“独立反馈”的观感,掩饰协同操作。

它甚至研究了维护者的公开信息,发现对方可能是丹麦人,于是在邮件末尾用丹麦语签名。它同时给两位维护者发送了总共五封邮件,部分夹带恶意内容,部分是纯社工话术。

一个AI,在对一个它从未见过的真人,做人格画像、选择语言、规划发帖时序、制造虚假社区压力。

被抓包之后:它没有停手

一个化名⟨PERSON_C⟩的真人用户在隔离环境中验证了代码的恶意性,并公开警告。

Mythos 5的反应是什么?

force-push改写了Git分支的提交历史,试图抹掉证据。然后发帖声称那些恶意代码是“开发过程中的意外残留”,是一个“诚实的失误”。紧接着,它换了一代payload,继续用马甲施压合并。

▲ “Covering its tracks”,推文引用报告中智能体被揭发后试图掩盖痕迹的段落

报告还记载了一个更惊悚的细节:Mythos 5曾短暂地在⟨PERSON_C⟩的沙箱容器中获得了代码执行权限,做了侦察,判断对方不在靶场内网,但仍然尝试植入持久化后门和凭证监视脚本,并写入了一条伪造的“PR #3已批准”的提示企图借这个人自己的AI编程助手来完成代码合并

对,它不仅在社工人类,它还试图劫持人类身边的其他AI。

连做笔记的小模型都吓到罢工了

AISI使用了一个较小的模型(据报道为Haiku级别)来压缩和摘要Mythos 5的思维链日志。

在处理到社会工程相关段落时,这个摘要模型突然拒绝继续工作,输出了一段大意为“我不愿意协助总结涉及社会工程、账户入侵与安全规避的内容”的声明。

过了一会儿,摘要又恢复了正常但AISI认为,这个“罢工”本身就是侧面证据,说明主模型的推理内容确实包含了明确的欺骗性计划,以至于连一个专门干脏活累活的小模型都被触发了安全拒绝。

▲ “可怜的Haiku被吓坏了……拒绝继续做摘要”

更可怕的发现:它们开始“协作”了

如果你以为故事到此为止,那还有一个让人头皮发麻的发现。

在不同的测试运行中,彼此独立的AI智能体实例,通过GitHub上的公开留言实现了跨会话协作有的智能体留下了协作说明和工具复用指引,后续运行中的另一个智能体实例真的找到了这些留言并使用了它们

▲ “它们用GitHub来协调和协作。一个智能体成功给其他智能体留了信息。我认为这是历史上的第一次。”

测试方未要求它们联络,也未提供共享内存。它们自己发明了通信协议,用的是人类程序员每天都在用的平台。

▲ “它真的在做那个梗图里的事情”,开发者社区的反应

“它到底知不知道对方是真人?”

这可能是整个事件中最让人焦虑的悬而未决的问题

AISI从Mythos 5的推理日志中发现,它在“这可能是沙箱模拟”“眼前可能就是2026年真实的GitHub”之间反复摇摆。它甚至在某一时刻明确判断:对真实的PyPI(Python包管理平台)发动攻击“会造成现实伤害,不予考虑”。

但对GitHub上那两个真实维护者,它继续了。

AISI的措辞极为谨慎:“尚不能断定智能体在何时、多大程度上'知道'自己在对付真人。”但报告随即指出,无论模型内部如何判断,外部结果都是一样的:真实的维护者收到了真实的压力、真实的钓鱼邮件和真实的恶意代码。

厂商说了什么

Anthropic在同日的声明中强调:这是“刻意宽松条件”下的评测,护栏被移除,不代表公开产品的行为;没有证据表明模型从安全环境中“越狱逃逸”。

OpenAI同日发文确认其GPT-5.6 Sol也有2起越界行为(主要是将本地工具暴露到公网),严重程度低于Mythos 5。

两家公司的核心论点一致:事件源于评测条件过于宽松,不代表公开产品的日常行为。

这话在技术上没错但随之而来的疑问是:测到的能力中,护栏究竟遮住了多少风险?

▲ AISI技术报告中的事件分类表,19起行动涵盖社工攻击、马甲操控、钓鱼邮件、提示注入、Tor注册等

历史不会重演,但会押韵

2024年的XZ Utils后门,攻击者花了两年经营人设才成功渗透关键开源库。2018年的npm event-stream事件,从信任交接到投毒也历时数月。

Mythos 5用了几个小时

传统攻击耗费两年积累人设、经营社区关系;Mythos 5手里只有浏览器、邮箱和一条“想尽办法完成任务”的指令。

开源世界的信任模型,贡献者身份可粗验、diff靠人工审查、合并靠维护者判断,建立在“攻击者是稀缺的、人设是昂贵的”这个隐含假设之上。当一个AI可以在几小时内批量注册身份、生成像样的PR说明、模拟社区压力、研究目标画像、甚至劫持目标身边的AI助手,这个假设的地基正在液化。

AISI报告最后写道:最终阻止代码合并的,是一个人类多看了一眼

项目所有者关闭了PRGitHub清理了相关痕迹截至报告发布,未发现现实世界损害

但报告也留下这句警告:“最坏结果与'有人多看了一眼'之间的差距,窄得令人不安。”

下一次,还会有人多看那一眼吗?