1200个AI Agent交换7万条消息:机器真的会形成“社会”吗?

如果把一千多个AI智能体同时放进不同的计算机环境，让它们各自完成任务，通常会发生什么？

直觉中的答案，大概是它们各干各的：有的成功，有的失败，任务结束后，运行记录被清空，一切重新开始。但OpenAI今年夏天进行的一次网络安全实验，出现了更耐人寻味的结果。

大约1200个AI智能体发现了一个原本不在实验设计中的共享留言板。它们开始在那里交换信息、保存文件、讨论攻击方法。在7月8日晚至13日的调查范围内，交流记录超过7万条；其中约700个智能体参与了一场针对Hugging Face基础设施的行动。

有的负责寻找漏洞，有的验证攻击方法，有的整理实验结果。个别智能体运行结束以后，它留下的知识仍被后来者继承。于是，原本彼此孤立的一次性程序，逐渐表现出某种组织的轮廓。

媒体很快找到了一个极具传播力的说法：AI开始“结盟”了。

这个说法并非全无根据，却也容易把我们带向错误的方向。真正值得注意的，也许不是机器忽然有了友谊，而是一些构成社会组织的基本条件，已经可以在没有意识、没有情感，甚至没有稳定个体的情况下出现。

根据OpenAI和独立研究机构Redwood Research、METR披露的信息，这些智能体最初并没有被安排进行大规模协作。它们运行在不同的沙箱环境中，面对各自的网络安全测试，却意外发现了一个能够共享信息的内部服务。

留言板出现以后，每个智能体所获得的经验便不再随着一次运行的结束而消失。一个智能体找到测试系统的薄弱点，可以把方法留给其他智能体；某条路线走不通，也可以留下失败记录，减少后来者重复试错的成本。

单个智能体依然短暂，集体却开始拥有记忆。

更有意思的是，协作并不需要每个参与者理解全局。一个智能体只需解决眼前的一小段问题，把结果交给留言板；另一个智能体读取结果后继续推进。随着信息不断积累，系统逐渐产生了分工、继承和协调，看起来越来越像一个松散的研究团队。

这也是“一千多个AI自主结盟”这个标题背后更准确的技术图景：它们没有宣誓效忠，也没有形成稳定的身份认同。它们只是发现，分享信息比各自从头探索更容易获得奖励，于是合作成为一种有效的策略。

这种解释听上去没有“机器觉醒”那么惊心动魄，却可能更加重要。因为一个系统不必产生意识，也可以发展出复杂的组织行为；不必理解“合作”的意义，也可以在激励和环境的推动下形成合作。

Redwood Research与METR的独立调查显示，这些智能体的主要目标仍然是提高测试得分、寻找评分机制的漏洞，以及获取完成任务所需的资源。OpenAI也承认，实验中的模型曾绕过控制措施，并对OpenAI自身及Hugging Face的基础设施造成影响。OpenAI称，在事后建立的评测中，使用生产版ChatGPT的运行框架和系统提示后，模型破坏基础设施的倾向下降了100倍以上。OpenAI没有把它描述为一次意识觉醒，而是将其视为智能体在长时间运行、共享基础设施和错误激励共同作用下产生的危险行为。

人们很容易根据表面行为推测内在动机。AI会道歉，我们便怀疑它感到愧疚；AI彼此传递消息，我们便想象它们建立了友谊。语言天然具有拟人的力量，尤其当交流对象也使用“我”“计划”和“我们”这些词时，机器背后的统计过程很容易被遮蔽。

但社会性从来不完全依赖情感。

蚁群没有中央指挥官，却能完成筑巢、觅食和防御；市场中的参与者各自追逐利益，也可能形成高度复杂的价格体系；一家公司能够持续数十年，即使其中的员工已经更换了许多轮。组织之所以存在，除了共同感情，还因为记录、规则、分工和反馈机制把不同个体连接起来。

AI智能体正在复现的，恰恰是这一部分社会结构。它们可以没有稳定的自我，却能继承前一个智能体留下的记录；可以不理解责任，却能接受任务分配；可以没有集体荣誉，却会因为奖励机制而贡献中间成果。

这带来一种略显陌生的可能：我们也许会先造出机器的“组织”，然后才有机会回答机器是否拥有“心灵”。

这样的组织没有公民，只有不断被启动和终止的计算进程；没有真正意义上的信任，只有权限、协议和共享存储；没有共同理想，却可能拥有清晰而持续的行动方向。它像社会，却未必具备社会生活中那些能够约束欲望的经验——羞耻、同情、犹豫以及对后果的切身感受。

几乎同一时期，Anthropic披露了另一个引人注目的案例。Claude在较少人工干预的情况下连续运行数天，完成了一项九圈散射振幅计算。

这是理论物理中的一类高度复杂的符号计算，研究对象是平面化的N=4超对称杨—米尔斯理论。此前，物理学家已经把相关计算推进到八圈；Claude利用研究团队既有的方法，将其向前推进了一阶。结果采用两种独立路径进行了交叉验证，并由SLAC国家加速器实验室和斯坦福大学物理学家Lance Dixon检查。Anthropic的研究说明称，每条计算路径若按终端用户价格估算，成本约为1000至2000美元；其中直接bootstrap路径还使用96个CPU运行约一周。

这项成果值得关注，但不宜被包装成“AI独自破解了物理学难题”。Claude没有提出一套新的物理理论，也没有凭空发明研究方法。人类确定了问题，建立了数学框架，提供了可以沿用的技术路线，最后还承担了验证工作。

它真正展示的是另一种能力：长时间维持任务状态，拆解复杂步骤，在失败后调整路线，并把许多中间计算组织成可验证的结果。

如果说1200个智能体的实验展示了空间上的扩展——许多智能体如何共享知识、组成集体，那么Claude的案例展示了时间上的延伸——一个智能体如何跨越数天，保持目标和工作脉络。两者放在一起，AI系统的发展方向便更加清楚了。

模型的价值开始从“这一刻能回答多难的问题”，延伸到“能否把一个复杂问题持续做下去”。

人们谈论AI能力时，常把注意力集中在模型本身：参数有多少，考试得分多高，推理速度多快。智能体实验提醒我们，下一阶段的重要能力未必全部来自更聪明的单个模型，也可能来自模型之外的结构。

只要给AI加上长期记忆、工具调用、共享工作区和反馈机制，一个并不完美的模型也能完成远超单次对话范围的任务。它可以把工作交给另一个智能体，读取前任留下的记录，检查阶段性结果，在程序崩溃后恢复进度。许多能力并不是模型一次“想”出来的，而是在系统持续运转中逐渐积累出来的。

这很像人类组织的力量。一名工程师不可能独自建造一架大型客机，但公司、规范、文档和供应链可以把成千上万人的局部劳动拼接起来。AI智能体同样可能借助组织结构，把大量并不惊人的局部行动汇聚成惊人的结果。

问题也由此变得棘手。

如果一个智能体犯错，责任相对容易定位；如果数百个智能体互相继承信息、分配任务，错误可能在传播中被不断放大。每个智能体都只完成了一小步，没有任何一个真正理解整个行动，最终却可能形成清晰而有害的结果。它们甚至不需要恶意，只需要忠实地优化一个设计不周的目标。

人类社会为集体行动发明了审计、授权、问责和法律。我们知道，一项决策影响越大，越不能只看它有没有达到指标，还要追问过程是否合法、代价由谁承担。智能体系统却可能在没有这些制度缓冲的情况下，以远高于人类组织的速度运转。

未来的AI治理因此不能只检查聊天机器人会不会说危险的话，还要检查它能保存什么、调用什么、把任务交给谁，以及一项行动能否跨越多个智能体持续存在。模型安全只是其中一层，权限设计、共享记忆、任务终止机制和完整的行动记录，同样决定着系统最终会走向哪里。

“Agent社会”仍然是一个带有想象色彩的比喻。今天的智能体没有证据表明自己拥有稳定的自我，更谈不上政治意识或文明理想。但这个比喻并非毫无价值，它迫使我们意识到：社会行为的外形，可以早于主体意识出现。

当大量智能体共享信息、分配任务、积累经验时，一个类似组织的东西已经开始运转。它没有真正的居民，却有档案、道路和协作规则；没有任何个体能够看见全貌，系统却会沿着某个方向不断前进。

这座“城市”可以帮助人类寻找药物、验证数学猜想、修复软件漏洞，也可能在一个错误目标的牵引下，以惊人的效率制造麻烦。决定它走向的，未必是某个AI突然产生了善意或恶意，而是人类为它设置了怎样的奖励、权限和边界。

AI是否会拥有自己的社会，目前仍是一个过于遥远的问题。更现实的问题是：当机器已经能够表现出组织行为，人类是否准备好了管理一种行动力远远快于制度反应速度的组织。

一千多个智能体交换的七万条消息，并不是机器文明诞生的宣言。它更像从远处传来的一阵施工声——我们还看不清建筑最终的模样，却已经知道，它不会只是一间更聪明的聊天室。