解读论文:Agent Primitives: Reusable Latent Building Blocks for Multi-Agent Systems 作者:Haibo Jin, Peng Kuang, Ye Yu, Xiaopeng Yuan, Haohan Wang (伊利诺伊大学香槟分校) · 发表:ICML 2026(PMLR 306) 链接:https://arxiv.org/abs/2602.03695一、业务痛点:手搭的多智能体系统,为什么又贵又不稳今天大部分多智能体系统(MAS)的开发方式,本质上还是"手工作坊":针对某个任务设计几个角色,为每个角色写一套提示词,规定好谁先发言、谁做裁判、消息怎么传。换一个任务,这套架构往往要推倒重来。这带来两个直接的工程成本:架构复杂度随任务复杂度线性甚至超线性增长,团队里没有一套可复用的"标准件"。
更隐蔽的问题出在通信层。绝大多数 MAS 靠自然语言在智能体之间传递信息,这样做的好处是人类可读、便于调试,但代价是长上下文、多轮交互中的信息衰减。论文用两组压力测试量化了这一点:把一条辅助指令插入到长文本的中间位置时,用自然语言通信的方案指令遵循率从两端的 80%+ 骤降到 15.6%;在数学推理任务中逐步注入无关推理片段作为噪声,注入 25 句无关内容后,自然语言通信方案的准确率从 100% 跌到 40%。也就是说,智能体之间用自然语言传话,传得越多、传得越久,出错概率越高——这对任何依赖多轮智能体协作的生产系统都是实打实的可靠性风险。
二、核心结论:把 MAS 拆成三种可复用的"原语",靠 KV-Cache 直接对话论文的核心思路是把神经网络设计中"用残差块、注意力头这类可复用组件搭建复杂模型"的思路,平移到多智能体系统架构设计上。作者观察到,现有 MAS 架构虽然千差万别,但内部的计算模式可以归纳为少数几种反复出现的结构单元,并据此实例化了三种 Agent Primitive(智能体原语):
-
Review Primitive(评审原语):一个 Solver 和一个 Critic 构成的迭代自我批评回路,Critic 只给反馈、不直接改答案。
-
Voting and Selection Primitive(投票选择原语):多个 Solver 并行产生候选方案,一个 Selector 在潜在表示层面(而非文本层面)做聚合选择。
-
Planning and Execution Primitive(规划执行原语):一个 Planner 生成结构化的潜在计划,一个 Executor 据此执行,不重新设计计划。
每个原语内部的智能体之间不通过自然语言传话,而是直接拼接 KV-Cache(键值缓存),把前一个智能体处理完序列后留下的键值张量,通过 RoPE 位置重编码后拼接到下一个智能体的系统提示词 KV-Cache 之后,让后者在此基础上直接续写。这样做的前提是所有参与的智能体必须共享同一套模型参数和位置编码方案(下文会展开这一约束)。
三个原语对外都暴露和标准 LLM 智能体一样的接口,因此可以像积木一样即插即用、任意组合。为了让系统自动化,论文引入一个 Organizer(默认用 GPT-5.2 担任)根据输入查询自动选择并编排原语,背后由一个收录了 45 条已知 MAS 结构(含 Multi-Agent Debate、DyLAN、Self-Refine、AFlow、MAS-GPT 等经典方案)的 Knowledge Pool 提供检索式结构参考。
图 1. Agent Primitives 整体架构总览图。(来源:论文原图,arXiv:2602.03695)三、评测目标与维度:为什么比、比什么作者设计的评测体系覆盖三个任务大类、8 个基准、5 个开源模型底座(Qwen3-4B/8B/14B,DeepSeek-R1-Distill-Qwen-32B/Llama-70B),对比维度包括:
-
性能:准确率(%),相对单智能体基线的提升幅度。
-
效率:Token 用量、单次查询平均推理耗时(秒)。
-
成本归一化效率:每 0.01 美元花费对应的准确率百分点(cost-normalized efficiency)。
-
稳定性:跨模型底座(Qwen 系 vs LLaMA 系 vs DeepSeek 蒸馏系)的方差表现。
-
消融:Organizer 选择(GPT-5.2 vs Claude-4 vs 随机)、Knowledge Pool 有无、RoPE 位置重编码有无。
选择这套维度组合的用意是:准确率提升必须叠加效率数据一起看,否则"更高分"很可能只是"更贵"的另一种说法,这正是自然语言 MAS(TextMAS)长期被诟病的地方。
四、验证过程与数据表现
相对单智能体与文本通信 MAS 的提升
在 Qwen3-8B 底座上,Primitives-based MAS 平均准确率达到 75.3%,相对单智能体基线(58.8%)提升 16.5 个百分点;对照组 TextMAS 的平均提升只有 7.3 个百分点,且方差明显更大。在最难的 AIME25/AIME24 上,小模型(Qwen3-4B)的提升幅度甚至达到 20…