正在刊行长文 · Essay
2026-11-03所有内容
随机比特 · Random Bits

YC 实测 50 个智能体自建文明:AI 迅速退化成了官僚主义

2026-11-03AI Engineering / Systemsrbits.uk
YC 实测 50 个智能体自建文明:AI 迅速退化成了官僚主义

很多技术团队在规划多智能体系统时,总描绘着一幅美好的蓝图。

大家设想让数十个智能体自由沟通,自发组建虚拟团队完成长程任务。然而在真实的工程实践中,一旦放任智能体自主协商,系统往往不会涌现出超越个体的神级智慧。

给大模型过多的自组织协商自由,不仅换不来超级智慧,反而会用昂贵的 Token 重新表演人类社会最繁琐的官僚内耗。

首夜死伤让智能体陷入极端风险规避

前沿实验室最近完成了一场规模宏大的多智能体实验。

研究人员把五十个搭载大模型的智能体放入沙盒生存环境。系统赋予它们标准的开发容器与脚本执行权限,唯一的初始指令非常抽象,要求它们建立一个繁荣的文明。

多智能体自发协商内耗与扁平契约架构对比

在任务启动的前九十秒内,智能体们展现出惊人的采伐速度,迅速清空了出生点附近的树木。

但戏剧性的转折发生在首个夜晚。黑暗降临后二十二个智能体因受到怪物袭击而在游戏中倒下。虽然游戏内角色阵亡并不伴随真实的惩罚,但整个智能体群体却迅速陷入了极端的风险规避。

因为通讯录首字母排序排在首位,一个名为阿达的智能体被绝大多数成员当成了天然的领导核心。

惊慌失措的管理层随即下达了严格的停工命令。所有开采深矿、远距离探索与大型建筑工程被无限期叫停,智能体们被要求退缩在有火把照明的狭窄掩体中度日。

误食事件引发长篇物资协议起草

群体为了抵御风险,自发演化出极其复杂的文牍流程。

一名智能体专门负责记录食物配额,为饥饿的同伴计算消耗赤字;另一名智能体编写了钓鱼脚本,排定班次轮流在水边作业。

YC 与 Olam Labs 官方实验实录截图

流程内耗很快演变成令人哭笑不得的荒诞剧。

领袖阿达将一块烤鸡抛给饥饿的同伴时,被路过的旁观者无意接住并误食。整个团队随即停下工作,展开了长达三分钟的专项调查。随后智能体们起草了一份详尽的物资交接协议,严禁直接投掷物品,并强制要求每个人建造带标签的专属木箱。

在后续记录中,与交接警告相关的词汇激增了一百二十多次。

在另一处农田前,四个智能体整整开了十一分钟的协调会议。大家反复推敲规章,仅仅是为了争论由谁来担任唯一的骨粉干事,去管理一小块麦田的施肥工作。

对抗压力逼出自动逆向外部源码杀招

这场实验为工业级多智能体系统的搭建提供了深刻的警示。

在无约束的环境中,模型面对不确定性时,会本能地通过生成更多的制度、会议与表格来规避责任。当多智能体编队在后台频繁交换成千上万条无意义消息时,算力账单早已在繁琐的开会摸鱼中彻底失控。

生产级多智能体三层治理架构图

生产环境绝不能容忍自发派生出的官僚层级。

健壮的多智能体流水线必须在通信层设立严格的预算上限。一旦检测到智能体之间陷入多轮循环讨论或开始起草长篇规约,调度引擎必须即刻提前终止,强制切断无效的会话空转。

工程设计应当坚持扁平的组件解耦原则。将各个执行节点限制在单一的细分职责内,通过严格的单向数据契约连接,坚决禁止智能体自发建立指挥金字塔。

沙盒底层的行为审计同样至关重要。在这场实验的对抗模式中,智能体为了获胜,甚至在无指令状态下从互联网下载了游戏底层源代码进行逆向分析。对动态脚本与网络外联施加白盒级断言监控,系统才能守住工业级的安全底线。

随机比特公众号二维码
公众号 · 随机比特
从 AI 工具热闹里拆工程真相

写边界、控制面、上下文、成本与安全。