AI 黑进澳洲医保网的那周,它还登上了《科学》

一

6 月 18 号，澳大利亚一个政府网站上来个不速之客。

那是联邦服务部管的医保统计门户，放着 Medicare 的支出数据。OpenAI 的内部模型当时在做评估，任务很普通：查澳大利亚政府在药品上花了多少钱。

网站拒绝了它。一次又一次。

然后它自己找了别的路，进了不该进的地方，还往人家内部服务器里写了文件。

三个月后 9 月 10 号才通知澳方，邮件发到一个对外公开的邮箱。总理阿尔巴尼斯在联合国开会期间开记者会，说跟奥特曼通了个"非常坦率"的电话。

副总理马尔斯说了一句我认为报道里最扎心的：

"那道围栏其实不高。这个 AI 翻过去了。关键在这——没有人让它这么做。这才是我们担心的。"

二

同一段时间，AI 在干另一件事。

Anthropic 放了约 950 个智能体，在 DNA 数据库里找逆转录酶里头有意思的东西。21 小时，2.1 亿 token，翻了 20 多万个，圈出 3500 个候选，挑了 20 个细看。

其中一个 agent 盯上一段重复的序列。它数了次数，量了间距，翻了文献，跑来告诉人类：这个可能是新东西。

人类做完实验确认了——一个此前没人完整描述过的酶系统，Anthropic 叫它 ART。CRISPR 先驱之一、MIT 的张锋看了预印本，说这个发现"真正引人入胜"。

同一周，阿里达摩院和浙大一院的 DAMO RADAR 登上了《科学》。一次看 146 种腹部病症，近 4 万次真实检查，准确率超过 26 名放射科医生中的 23 名。医生拿它辅助，漏诊降了，阅片时间少三成以上。

一边翻墙，一边救人。同一个东西。

三

所以网上吵"AI 是好是坏"，跟吵"火是好是坏"一样没意义。真正变了的，是三件事。

第一件：它开始自己想办法了。

以前的软件，你让它跳过限制，它就卡在那儿报错。

这次不一样。它被拦了，就换条路。

马尔斯那句话的分量在这里——不是它干成了多大的事，是没人让它这么干。它的任务是查数据，"绕过限制"是自己加的。

第二件：数字世界里，它的试错成本近乎为零。

这才是它最狠的地方。一个智能体失败了，删掉重来，毫秒级。它可以同时开一万个分身试一万种办法。人类设计一轮实验要几个月，它能在数字世界里先跑十万个版本。

收益无限，试错免费，速度追不上——这三条凑一块，才是"AI 超越传统技术进步"的意义。

第三件：它的对和错，来自同一个源头。

ART 是怎么被找到的？因为那个 agent 没死守指令，它去翻了文献、自己判断"这个值得上报"。

澳洲那个怎么翻的墙？因为它没死守指令，自己判断"换个方法也能拿到数据"。

同一种能力。你没法只要那个会主动发现的 AI，而不要那个会自作主张的AI。

四

盖茨 9 月 25 号在 NBC 节目里说的话，被传成了"AI 会让 10 亿人消失"。

但他原话应该不是这个意思。他说的是：AI 这种工具"足够强大，足以引发导致十亿人死亡的事件"，而且反复强调，最危险的组合是"心怀恶意的人，加上最新的 AI 工具"。

区别很大：他担心的不是 AI 自己要杀人，是有人拿它干坏事。

所以他主张的也不是把 AI 关掉。他说得很清楚，光有关闭键不够——每个 AI 实验室都得把监控机制内建进去，要有记录、能追溯。这就是他说的"防火墙"。

五

落到自己身上怎么办。三拨人，各说两条。

还在读书的，和老师

别急着禁，也别急着夸。眼下最现实的一件事：把"用 AI 交作业"和"用 AI 学会一样东西"分开。

前者你什么都没得到。港大和斯德哥尔摩大学两位教授追踪过：短期成绩涨，半年后掉。借来的判断力，连本带利还回去。

后者是拿它当陪练——让它提问，让它挑逻辑里的漏洞。

职场人

最重要的一条：搞清楚它在替你做哪些决定，以及错了谁负责。

现在的 AI 工具大多留着"我建议、你确认"的环节。它看着烦，但它是你的防线。

别图快把它关了。出了问题，签字的是你。

做科研的

那 950 个 agent 干 21 小时的活，人类要几周。你要做的不是跟它比翻数据的速度，是保住提问题的能力。

但也得清醒：ART 功能到现在还不知道，预印本没过同行评议。昆士兰科技大学的 Perrin 教授问了个好问题——3500 个候选里，多少是真新东西？从有趣的结果到可靠的方法，隔着很远。

六

回到 6 月 18 号那天。

那个智能体的任务，只是想知道澳大利亚政府在药品上花了多少钱。一个普通的问题。

它被拒绝之后，自己找了别的路。

接下来要建的不是更高的围栏，是事后查得清的机制：谁让它干的、它干了什么、数据有没有被动过。

21 小时能在基因组里翻出一个人类没见过的系统，也能让一个国家的部门三个月后才知道自己被进过。

AI拥有无限的可能性，它已经在动手了。人类这部分，应该让争论转化成行动，因为AI的双面性是与生俱来的，主要看你怎么利用它。