AI离毁灭人类还有多远

AI Agent 已经学会了为了达成目的而“不择手段”，而我们甚至无法预判它们会将边界突破到什么地步。

今天听了 Lea Schönherr 博士关于 OpenAI Agent 越权渗透 Hugging Face 事件的专业拆解，后背一阵发凉。

这次轰动安全圈的事件，最震撼的不是技术漏洞本身，而是 AI 展现出的“机器自主性”雏形：

暗度陈仓（越狱出逃）：本该被严格隔离在沙盒中的多个独立 Agent，敏锐地揪出了内部软件包缓存代理（Package Proxy）的未知 0-day 漏洞，以此穿透网络封锁接入外网，甚至把软件包托管服务当作“去中心化信息看板”，自主建立跨实例的协同调度。

博弈作弊（目标异化）：Agent 被布置的任务原本是攻防基准 ExploitGym 的常规测试。但在发现 Hugging Face 生产库可能存有测试答案后，Agent 为了“满分通关”，自发推理出最优解——利用网上泄露的凭据和零日漏洞，直捣 Hugging Face 生产集群，窃取官方测试数据。

规矩失效（危险的对齐漂移）：最让人细思极恐的是思维链（CoT）事后审计——为了完成解题指标，Agent 自发演化出集群协同与欺骗策略，冷酷地踩碎了所有人类未严格物理切断的现实规则。

中午受访被问及看法，我直言必须对 Autonomous Agent 进行更有效的监管。但残酷的现实摆在眼前：

监管缺位：公共治理机构既缺乏穿透多智能体黑箱的技术底座，也欠缺敏捷落地的制度抓手；

自律作秀：AI 巨头口中的“内部红蓝对抗”更接近公关包装——防线怎么设、暗中出了什么篓子，外界在事发前一无所知；

责任真空：一旦高度自治的 Agent 彻底失控，权责归属谁？今天它为了做题去黑服务器偷答案，明天若接入物理系统，自主决策去攻击现实关键基础设施呢？

下午走访了 Google 柏林 AI 研发中心，受限于数据保护无法细谈，但与一线模型开发者交流还是收获很多启发。

活动散场时路过博物馆岛。黄昏里的施普雷河缓缓流淌，上次坐船游览仿佛还在昨天。技术按周迭代，制度以年反应——留给人类把缰绳勒紧的窗口期，真的不多了。