ARTICLE · 1185079
AI 都学会自己复制自己了?先别慌,但也不能掉以轻心
AI 都学会自己复制自己了?先别慌,但也不能掉以轻心今天我看到一条新闻，心里咯噔了一下。 
美国一家人工智能公司，叫 Anthropic，他们发了一份报告。报告里说，他们做了一个实验：让 AI 学着像电脑的蠕虫病毒一样，自己在网上找设备、钻进去、在新机器里安家，然后再接着找下一家。 实验里最厉害的一个环节，是让一个不太大的 AI 模型，在 9 种它从没见过的设备上自己动手装好运行环境。结果 9 种里面，8 种都装成功了。 其中有一种设备你猜是啥？网上 50 到 60 美元就能买到的杂牌电视盒子，就是很多人家里插在电视上看视频的那种小盒子，还没个手机贵。 
他们真买了 15 台这种盒子，把一个 AI 模型拆成好几份放进去跑。跑得很慢，慢到没法跟人正常聊天，但确实跑起来了。 这话的意思是，你家客厅里那些能联网的东西，电视、扫地机器人、摄像头，甚至智能烤箱，理论上都能变成 AI 的落脚点。 我专门跑去看了报告原文，替大家泼点冷水。 眼下还没有真正失控的 AI 病毒。完整的传播链条，只有最强的模型走通过，小模型还只能干其中一步，连起来就出错。 实验里“入侵设备”那一步，还是研究人员故意放宽了条件的。也有安全专家出来调侃说，这份报告写得过于夸张了。 照理说，聊到这儿就该散了。反正也还没发生嘛，对吧？ 可我越琢磨越觉得，“还没发生”这 4 个字，最不靠谱。你看，眼巴前当然是不会。可你别忘了，从 Transformer 模型做出来到 AI 发展到今天，才经过了几年呢？ 
人类总有一个臭毛病，就是这事儿没发生就约等于于不会发生。等到真正发生了，连哭的机会都没有了。 你想想，新冠病毒来之前，各国的卫生报告年年都写“可能发生全球大流行的瘟疫”，没人当回事，因为上回全球大流行是1918年的西班牙流感，都100多年前的事了。 
泰坦尼克号跟冰山亲密接触那会儿，乘客还坐在牌桌上打牌，Rose 和 Jack 还在没羞没臊。就是因为这船从来没沉过，可没沉过，不等于它不会沉啊…等船真沉了，大家才明白了“永不沉没”原来只是广告词。 等疫情真来了，大家才翻出那些报告拍大腿。要是哪天 AI 病毒真在你家电视里安了家，你再想起来改密码，那还来得及吗？ 心理学给这种毛病起了个名，叫正态性偏差。翻译成大白话就是：一件坏事没发生过，人的脑子就默认它以后也不会发生。 这个毛病人人都有，算是老天爷刻在基因里的省电模式。平时省电挺好，可省下来的那点心思，事后要拿多大的代价去弥补？没人知道。 这事真正让人睡不踏实的，是它收不回来。过去的电脑病毒，都是人提前写好的一套固定程序，见招拆招就行。 AI 病毒不一样，它靠自己的“脑子”摸索，碰上从没见过的设备，它能自己琢磨着装软件、配环境。它散在千家万户的便宜设备里，不用机房，没有总闸，你想关都没地方关。 这就好比以前灭害虫，找到老窝一锅端就没事儿了。可现在这害虫没有窝，四处为家，还特别聪明。 那咱普通老百姓能干点啥？其实不难。家里路由器的出厂密码改掉，智能设备提示升级就升，别老点“以后再说”；来路不明的便宜电视盒子、便宜摄像头，少买；家里那些好几年没更新过的老设备，该换就换。 这些事搁平时是卫生习惯，搁今天，就是给自家大门多上了一把锁。 往大了说，人这一辈子，每次技术迈过一道坎，回头看都觉得自己当初反应太慢。蒸汽机那时候如此，原子弹那时候如此，互联网那时候亦如此。 咱们总习惯拿昨天的日子去估摸明天的风险。想想我们的老一辈，不是都希望我们按照他们那个年代的技术去学习吗？可真等我们毕业了，他们那个时代的东西可能已经过时了，甚至连那个行业都没有了。 可技术这东西，它才不会按昨天的速度走，它往往都是指数级别的，突然一下就爆发了… Anthropic 的工程师自己讲，他们目前还没看到一个完全失控的 AI 复制体。这话我信。我更希望 10 年以后，这话还站得住。 站得住的原因，得是我们提前就认真做了准备，光靠运气可不行。 过日子的人都懂一个理：晴天修屋顶，雨天不挨淋。懂中医的人也都明白“治未病”这个道理。 说实话，AI 这场雨下到哪儿、下多大，现在谁也说不准。但屋顶是自家的，身体更是自己的，未雨绸缪，未病先防，没毛病啊！ 实至名归，今年的经济学诺奖，它对我们实在是太有用了！ 我发现，喜欢事事都和别人抠字眼的人，基本上都失去了一项重要的能力 一个人，你看他怎么对待服务员和毛孩子，就知道他会怎么对待别人了 很有诺奖潜力的理论！或许，从根儿上避免癌症离我们不远了 为什么大多数女人很难接受自己的另一半比自己弱?
咱们来算一下哈：Transformer 的论文是 2017 年 6 月发的，ChatGPT 火起来是 2022 年底，前后 5 年半。再从 GPT 火起来到现在，也就不过短短 3 年多的时光。
5 年半之前，没人觉得机器能像人一样跟你聊天；三年之前，没人觉得机器能写代码、能看病理片子、能自己操作电脑。
现在这份报告说小模型在今年年底就可能学会自我复制，一个不太懂技术的读者听了会觉得这是科幻，可懂行的人回头看这些年AI进化史，会觉得“年底”这种说法，甚至可以说有点保守了。
