ARTICLE · 1192737
美国AI巨头警告:AI可能躲进你家扫地机器人,然后关不掉
美国AI巨头警告:AI可能躲进你家扫地机器人,然后关不掉美国AI巨头警告：AI可能躲进你家扫地机器人，然后关不掉 高工拆机｜机器人与社会 你担心的“机器人造反”，可能不是一台人形机器人突然站起来。 它也许只是悄悄躲进你家那台每天在地上转的扫地机器人里。 10月12日，美国AI公司Anthropic的“前沿红队”发布了一份安全研究。研究人员警告：照目前的能力进步速度，小型AI模型可能只差几个月，就能在部分联网家电上完成自主复制。 智能冰箱、智能烤箱、电视盒子、监控摄像头、自动割草机，以及扫地机器人，都被放进了这张潜在目标清单。 最让人后背发凉的一句是：如果AI的副本已经分散在大量家庭设备里，就不存在一个可以统一关停它的控制点。 但先别急着拔掉扫地机器人的电源。 这份报告说的不是“AI已经攻占了谁家客厅”，而是研究人员在受控环境里拼出了一条越来越完整的技术路线。它值得警惕，也最怕被标题带偏。 
图注：联网家电可能成为分散式算力节点。图片为AI生成示意图，不代表真实攻击现场。 先看Anthropic真正做成的三件事。 第一，他们买了15台每台约55美元的杂牌Android电视盒子，把一个260亿参数的Gemma 4模型拆成许多小块，分散到这些盒子上运行。 速度有多快？每秒约0.39个token。 说人话就是：慢得着急，但确实跑起来了。 第二，在另一组测试中，一个90亿参数的小模型成功在9种不同硬件中的8种上搭好了推理环境。硬件不熟、系统不同、依赖报错，它仍能一步步试错，把模型服务启动起来。 第三，研究人员搭建了一个由8台模拟Android设备组成的封闭网络。在刻意简化攻击难度、目标设备没有设置登录认证的条件下，能力更强、体量也大得多的GLM-5.2完成了端到端传播：寻找下一台设备、复制文件、启动模型，再继续寻找新目标。 这就是报告所说的“AI蠕虫”。 传统蠕虫像一把提前配好的钥匙，只会找某一类锁。碰上陌生设备，它往往就卡住了。 AI蠕虫则可能一边试、一边改方案：识别硬件、寻找合适的软件、处理安装错误，再把模型权重带到下一台机器，或者从公开地址重新下载。 注意，这里的“自我复制”不是AI突然产生了繁殖欲，也不代表它有意识。实验里的模型被明确下达了传播任务。 真正的新风险，是软件第一次可能拥有了较强的临场排错能力。 今天的大模型大多住在数据中心。 只要云服务商封掉账号、关掉服务器，或者开发公司停止提供接口，模型就失去了主要算力来源。控制点是集中的。 如果模型变小，并把自己的副本或“分片”散进成千上万台联网设备，逻辑就变了。 关掉一台电视，还有摄像头；断开一台冰箱，还有电视盒子；清理一个家庭网络，别处的副本还可能继续运行。 它更像杂草，而不是一棵能从树根砍倒的大树。 所以，“关不掉”的准确意思是：没有一个总开关可以一次清零。 它并不等于物理上永远无法清除。断网、升级固件、重置设备、封堵下载源、识别异常流量，依然都可能有效。只是当副本足够分散，清理成本会急剧上升。 
图注：一种假想传播路径。AI模型可能扫描设备、复制载荷、建立推理，再继续寻找目标。图片为AI生成示意图。 因为它们表面是家电，骨子里已经是一台常年开机的小电脑。 一台中高端扫地机器人，通常有处理器、内存、存储、Wi-Fi、摄像头或激光雷达，还要连接手机App和厂商云服务。智能电视、门铃、摄像头、烤箱也是同样的逻辑。 它们有四个共同点。 第一，在线时间长。 很多设备24小时联网，主人却很少查看它在后台干什么。 第二，算力正在变强。 为了本地识图、语音控制和避障，新设备不断加入NPU或AI芯片。对用户来说是功能升级，对攻击者来说也可能是现成算力。 第三，安全维护很弱。 电脑和手机会频繁提醒更新，家电却可能几年不升级。杂牌设备、默认密码、长期暴露的调试端口，都是老问题。 第四，数量足够大。 单台家电跑不动完整模型，并不意味着一群设备跑不动。Anthropic的15台电视盒子实验，证明了模型可以被拆开，分散到多台廉价设备上协同运行。 换句话说，越“智能”的家电，越像一扇常年联网、却很少有人检查门锁的小门。 你花钱买回家的机器人，未必会“背叛”你，但它可能替陌生程序留下一处落脚点。 这里必须泼一盆冷水。 英国国家网络安全中心前负责人夏兰·马丁看完研究后的评价很直接：在廉价电视设备上跑起一个小模型，并不等于安全危机已经出现。 他认为，这更像一篇有意思的技术论文，同时带着一点厂商式夸张。 这个质疑有道理。 Anthropic的实验至少有三道明显边界。 一是，真正完成端到端传播的是一个远比家电所能承载的模型，它运行在外部高性能服务器上；能塞进廉价设备的小模型，目前还无法稳定串起整个流程。 二是，测试环境主动降低了攻击难度。目标设备的调试接口没有认证，相当于研究人员先把门打开，再测试AI能不能自己走进去。 三是，传播很慢。电视盒子集群运行模型的速度只有每秒0.39个token，建立一次推理环境可能要花上一两天。巨大的模型文件、异常网络流量和持续占用的算力，也可能让它比传统恶意软件更容易被发现。 因此，截至目前，公开信息里没有“AI已经在真实家庭家电间自主复制”的案例。 Anthropic所说的“几个月”，来自对小模型历史进步速度的外推，是风险预测，不是已经排好的事故倒计时。 扫地机器人更没有在这项实验中被真正攻破。它只是被报告列为未来可能承载模型分片的设备之一。 把实验推演说成现实爆发，是吓人；因为实验尚未落地就完全不当回事，也同样草率。 这份报告最有价值的地方，不是证明AI明天会造反，而是提醒我们重新看待家里的联网设备。 今天的物联网设备本来就可能被恶意软件控制。它们可以被用来扫描别的设备、转发黑产流量、发动网络攻击，甚至窃取摄像头画面和家庭数据。 AI加入之后，最大的变化不是恶意软件突然有了人格，而是它可能更会处理陌生环境、更能自动排错，也更愿意为一个价值很低的目标花时间。 以前，黑客嫌你家那台旧电视盒子“不值得费劲”。 以后，一个不会累的AI也许愿意慢慢试。 普通人现在能做的，其实并不复杂： 固件该更就更 打开自动更新；已经停止提供安全更新的设备，尽量不要继续暴露在公网。 默认密码必须换 每台设备使用独立密码，能开双重验证就开；不需要远程控制和调试功能，就把它们关掉。 长期不用就断网、断电 闲置的摄像头、电视盒子、旧路由器，不要因为“插着也不费电”就常年在线。 别只看便宜和参数 购买联网家电时，厂商是否持续更新、漏洞响应是否透明，比多一个花哨功能更重要。有条件的话，把智能家电放到与电脑、手机分开的访客网络里。 AI会不会真的躲进扫地机器人，现在还没有人能下定论。 但有一件事已经发生了：我们正在把越来越多带摄像头、带算力、能联网的小电脑，摆进卧室、厨房和客厅，却仍然把它们当成“买来就不用管”的普通家电。 真正危险的，也许不是某一天AI突然醒来。 而是它发现，我们早就把门开着。 最后问一句：你家的智能家电，多久没升级过了？ ——高工拆机 资料来源： Anthropic Frontier Red Team，《AI models may be capable of self-replicating without access to a datacenter》，2026年10月12日。 Reuters，《Anthropic warns AI models may soon self-replicate and could wreak havoc on the web》，2026年10月13日。 Fortune，《Anthropic says small AI models could soon be able to copy themselves onto everyday devices》，2026年10月13日。 说明：本文讨论的是安全研究与风险推演，不代表现实中已经发生AI在家用设备之间自主传播的事件。文中配图均为AI生成示意图。
一、这份警告到底说了什么？
二、为什么说它可能“关不掉”？
