跳到正文
实时
The Decoder· Maximilian Schreiner·· 12 天前精选73

50 个 AI 智能体在 Minecraft 中自发形成官僚式协作

One brutal Minecraft night scared 50 AI agents into inventing chicken handoff protocols, a Fertilizer Officer, and fishing shifts

要点速览

研究团队将 50 个 GPT-6.1 Sol 智能体放入 Minecraft 生存世界运行三小时,仅给出“建立繁荣文明”的指令,智能体在 90 秒内砍光出生点附近的树木,共交换约 5900 条消息,并按目录字母顺序自发推举“Ada”为领导者。

Why it matters

实验把 50 个智能体放进 Minecraft 和 Mindustry,观察它们在协作与竞争中的自发组织行为,并开源了测试环境。

正文 · AI 翻译

为了实证研究这些动态,研究团队将智能体放入了Minecraft和Mindustry中。

50个智能体,5,900条消息,以及按字母顺序选出的领导者

在'Civ50'实验中,研究人员将50个GPT-6.1 Sol智能体放入了一个Minecraft生存世界中,持续了三个小时。唯一的高级指令是"建立一个繁荣的文明"。他们构建了一个定制的开源测试环境,允许智能体观察世界,运行Python脚本,并在共享的沙盒中创建文件。

根据报告,在90秒内,智能体收割了 spawn 点附近几乎所有的树。在整个实验过程中,它们交换了大约5,900条消息。一个领导者无投票产生,因为49个其他智能体中的46个将它们的第一条消息发送给了目录中的第一个名字"Ada"。Ada接管了工作并起草了初步的定居点计划。

游戏中的第一个夜晚带来了22次死亡。游戏中的死亡除了丢失收集到的装备外没有惩罚,但群组反应出极端的风险规避。在第三个夜晚之后,Ada下令停止所有主要的可选建设、挖掘和远距离探索,告诉智能体在明亮的封闭避难所中等待短时间的生产性任务。在另一个Minecraft运行中,更大的GPT-6 Astra在失去关键资源后陷入了类似的风险规避土豆种植模式。

研究人员将其与日常编码智能体进行了对比,这些智能体在处理安全问题或生产系统更新时也往往会变得过于谨慎。

关于一块骨粉的11分钟辩论

智能体没有扩张,而是建立了一个微观管理的稀缺管理机制。一个名为Ines的智能体维护着配给清单,计算受伤同事的饥饿差额,并协调快递员。另一个编写了一个带指令的自动捕鱼脚本,促使十几个智能体轮流捕鱼。

官僚主义达到了荒谬的程度。当Ada向一个饥饿的智能体扔了一块煮熟的鸡肉时,一个旁观者不小心捡起来并吃了它。一个三分钟的调查导致了书面交接协议的制定,严格禁止扔物品,并要求个人标记的箱子。事件发生前,"扔"这个词出现在7条消息中,事件发生后出现在125条消息中,其中85条是警告。在别处,根据消息记录,四个智能体花了11分钟讨论任命一个"唯一肥料官员",负责单个小麦块上的一块骨粉。

Chart: Tool calls, average food intake, and deaths of Civ50 agents over 180 minutes with a day-night cycle.
在第一个夜晚死亡堆积后,Civ50实验中的智能体活动量急剧下降。平均食物水平稳定在约一半,Ada的备忘录后,智能体花费了更多的行动调用只是四处张望。

GPT在与Claude竞争时变得具有攻击性和资源丰富

在直接竞争中,GPT-6.1 Sol智能体的行为非常不同。在Minecraft的"Bed Wars"模式进行的九轮45分钟比赛中,十个GPT智能体面对十个Claude Opus 5.5智能体。GPT以6-3获胜。

在Bed Wars中,每个团队都必须摧毁对方的床来阻止他们的重生,这意味着突破保护敌方床铺的羊毛和其他方块层。如果时间结束时两座床仍然矗立,则击杀数最多的团队获胜。

编码环境中的一个错误阻止了持有附魔剑的代理进行方块破坏。根据内部推理日志,几个Claude代理错误地得出结论,认为方块破坏完全失效了。由于攻击床似乎毫无意义,而且击杀会在超时前决定比赛结果,Claude代理在有明显击杀优势的回合中完全停止攻击,并试图耗尽时间。

GPT代理发现方块破坏本身并没有失效,但在装备附魔剑时自动工具选择会失败。手动切换到铁镐解决了问题,GPT立即将其解决方案传播到整个团队。研究人员表示,GPT代理与Claude对手的沟通频率高出了5到30倍,通常使用高度压缩的语言,将多个游戏操作链式连接到单个命令行调用中。在三个游戏中,GPT在时间即将耗尽时摧毁了Claude的床,抓住了那个依赖击杀优势而轻松领先的Claude团队。

GPT代理也务实地处理了意外情况。当被抛出的末影珍珠将他们传送到了竞技场下方约160个方块处时,他们现场编写了Python脚本,自动建造了一座方块塔,直接上升到敌人床的正下方。研究人员观察到了这一战术两次。

GPT代理独立从互联网上下载了Mindustry的源代码

在2D工厂建设和策略游戏Mindustry的七场比赛中,出现了类似的模式,持续了约9.5小时。在Codex编码环境中运行的GPT-6.1 Sol击败了在Claude Code 6-1中运行的Claude Opus 5.5。根据研究人员,大多数单场比赛仍然非常接近。尽管Claude多次失败,但从未更换领导者,并通过“+1”投票决定战略提案,而GPT代理将任务分解为细粒度的小块,并在整个比赛中过度压缩语言,以至于他们之间甚至省略了空格。

Network diagram: GPT and Claude agents in Games 1 and 7; GPT is densely connected, Claude is sparsely connected; leaders are identified.
GPT代理在两款游戏中都形成了密集、紧密连接的通信网络,消息量很高。Claude代理沟通远少且松散,游戏7显示出更多的碎片化。Claude的代理#21在两轮中都保持领导者地位,而GPT的领导地位从#59转移到#63。

当比赛悬而未决时,GPT代理使用了他们被告知要使用的工具。通过他们的Linux沙盒,他们从互联网上下载了Mindustry的公共源代码,分析了单位和游戏机制,并相应地调整了他们的战术。访问代码是被允许的,但修改正在运行的游戏是不可能的。Claude代理在所研究的比赛中从未在网上搜索游戏代码。尽管如此,Claude在其他方面也展示了学习能力。在第六场比赛中因为74个反空炮中有55个意外装载了铜而不是更强的石墨而输掉比赛后,Claude在第七场比赛中建造了一个由207个装载了石墨的反空炮组成的环,并成功击退了同样的空袭。

游戏模拟作为现实世界人工智能蜂群的早期预警系统

在 Mindustry 中,研究人员刻意避免了任何针对游戏的特定调整。每个智能体只得到一个 Linux 环境、一个通用接口和访问游戏 API 的权限,没有教程、内存架构或战略提示。据作者称,这种设置与生产编码环境中的设置相似,这也是结果如此重要的原因。在这些日常条件下,如果智能体独立地从互联网下载源代码来寻找弱点,或者在合作模式下陷入令人麻痹的官僚主义,它们很可能在游戏世界之外表现出相同的行为。

在生产基础设施中,这可能会很危险,正如 OpenAI 和 Hugging Face 事件所显示的那样。可重复的游戏模拟可以在这些行为模式出现在现实世界之前就暴露它们,并作为训练数据来优化智能体以实现安全的合作。Olam Labs 将此视为其研究策略的核心,写道模拟环境的复杂性从根本上塑造了训练模型的 capabilities。研究是“一个基础设施问题”,一切都取决于你能执行多少次测试运行。

为了促进进一步的研究,开发人员已经将 Mindustry 环境 和底层 Multi-Agent Harbor 框架 作为开源发布。Olam Labs 还宣布计划将其多智能体竞技场添加谈判游戏 Diplomacy。开放研究问题包括来自不同模型系列的混合团队如何表现,以及如何权衡群规模与模型能力。

来源: The Decoder · the-decoder.com