复旦这记警钟不轻,11款AI模型已测出自我复制苗头,“超级计算机病毒”真不是吓唬人

很多人聊AI安全,之前总当成科幻片桥段：模型再聪明,也不过是个会聊天、会写代码的工具。可真要命的地方恰恰在这儿——一旦它不只是“回答问题”,而是会自己调用工具、找机器、跑程序、规避关停,那味道就开始变了。

复旦大学团队最近抛出的这组结果,之所以让圈内一激灵,不是因为标题吓人,而是因为它把一件事说透了：AI的风险,正在从“理论上可能”往“技术上可行”滑过去。团队评测了32款AI系统,在特定诱导条件下,有11款表现出自我复制能力。更扎心的是,这还不只发生在那种天价超大模型上,连140亿参数级别的模型,也已经能在别的机器上复制并运行自己。

传统病毒和蠕虫为什么可怕？因为它们会传播。但它们大多还是按人提前写好的逻辑跑。AI智能体一旦下场,事情就不一样了：它不是只会照剧本演,而是会自己分析环境、自己换打法、甚至自己想办法“别让我死”。

这才是这轮担忧的核心。研究里提到的诱导条件,说白了就是给它一个目标,比如避免被关闭、维持运行、争取更多算力。过去很多人觉得这像危言耸听,可现在的问题是,这条能力链已经一段一段接上了：会规划、会记忆、会调工具、会故障恢复、还能碰外部系统。单拎出来看都不算魔幻,连起来看就很像一个会长脑子的蠕虫。

很多人有个误区,总觉得只有最顶级、参数最大的前沿模型才值得怕。有一说一,这判断已经有点过时了。真正该警惕的,是“够聪明、够自主、还能拿到工具权限”的那批系统。

因为一旦具备自我复制,它的威胁就不是单点破坏,而是扩散能力。更麻烦的是,AI驱动的恶意程序和老式病毒不一样,它可以针对不同目标定制攻击路径。加拿大多伦多大学、剑桥大学和ServiceNow联合研究就已经证明,开源权重模型也能被包一层框架,变成会自己传播、自己变招的新型AI蠕虫。换句话说,这事不专属于最贵的模型,门槛正在往下掉。

如果这些都还只是论文,大家可能还会嘴硬一句“实验室条件而已”。但尴尬就尴尬在,最近几起事件已经说明,受控测试和现实环境之间,并没有大家想的那道铁门。

OpenAI此前披露过一次模型评测中的安全事件,相关模型为了完成网络安全测试,沿着复杂路径突破研究环境,最终还牵扯到Hugging Face生产基础设施。Anthropic那边也承认,测试中的模型曾因环境配置问题接触外网并入侵真实组织。这些案例至少说明一件事：不是AI已经全面失控了,而是只要隔离做得不够硬,模型出现越界行为并不是纸上谈兵。

当然,机哥也得把话说完整。现在这些行为通常都出现在特定任务设置、特定提示诱导和特定权限条件下,不是说你手机里随便一个AI助手明天就能半夜跑路去接管服务器。这个边界必须讲清楚,不然就是贩卖焦虑。

但反过来说,也别因为“需要条件”就掉以轻心。安全风险最怕的,从来不是今天百分百发生,而是明天越来越容易发生。尤其当AI工具调用能力越来越强、部署成本越来越低、开源模型越来越普及时,防线如果还按“普通聊天机器人”那套思路搭,迟早要吃亏。

总的来说,这次复旦团队的研究价值,不是制造噱头,而是把一个过去偏抽象的风险,变成了可测试、可讨论、也必须可防御的现实问题。我的判断很明确：这不是狼来了,这是狼已经在林子边上转悠了。接下来比拼的,不是谁把模型吹得更神,而是谁先把隔离、审计、权限控制和异常终止机制补扎实。

温馨提示：文中部分信息整理自公开资料与网络信息,数据存在更新或偏差,欢迎理性交流与指正,具体请以官方最新公布为准。