Harness 效应:编排设计如何影响企业级 Agent 的 Token 成本
很多团队评估企业 Agent 成本时,第一反应是看模型价格。比较哪个模型输入便宜,哪个模型输出便宜,哪个模型性价比高。比价自然重要,但论文「The Harness Effect: How Orchestration Design Sets the Token Economics of Enterprise Agentic AI」提出了一个观点:企业级 Agent 决定一项任务最终花多少 Token 的,一般是模型外面的编排层。
论文把这个编排层叫作 Harness。它负责把一次用户请求组织成一连串可执行的步骤,比如:怎么拼接上下文、Agent 什么时候调用子 Agent 等等。相对应的,本篇论文的核心实验将保持 22 个企业 Agent 任务、6 个模型、评测方式和价格表不变,通过只替换编排层(Harness)来比较传统生产 Agent loop 和 Agent Harness 的差异。
下面,我们来看看如何把 Agent 成本从“模型单价问题”拆解成“系统设计问题”。
Agent 的成本构成
一般来说,Agent 很少只用一次模型调用就完成任务。一个企业级任务往往要经过多轮 Prompt 交互、工具调用、检索返回、工具输出处理、中间状态更新和历史记录回放。每执行一次模型调用,系统都要重新组织上下文,这就会产生新的输入 Token 和输出 Token 消耗。
论文把一次 Agent 任务的成本拆成多轮模型调用的总和。每一轮的模型调用,输入 Token 成本主要来自系统提示词、历史记录、工具 schema、检索内容和用户请求等部分。这意味着,Token 成本不只受模型单价影响,也受到 Harness 的上下文组织方式影响:
是完整回放历史记录,还是压缩成 checkpoint;
工具 schema 是每轮全部注入,还是按任务需求动态收敛;
检索内容是写入大段上下文,还是只保留关键证据和引用;
失败重试是继续消耗调用次数,还是设置重试边界和熔断机制;
等待外部事件响应时,是反复调用模型确认状态,还是把任务挂起,等事件返回后再恢复。
这些选择最终都会影响每一轮模型调用的上下文长度和 Token 消耗。
图 1:Token 消耗主要来源,红线代表 naive replay,蓝线代表 harness-managed context,中间的阴影区域为那些被重复消耗、但没有有效转化为任务质量的额外 Token。
上图显示,如果 Agent 每一轮模型调用都完整回放历史记录,输入 Token 会随着执行轮次快速膨胀,整体接近平方级增长。如果由 Harness 管理上下文,把历史记录进行压缩、分层或外置,Token 增长就可以被压到近似线性增长。
核心实验:只换 Harness,模型不变
这篇论文的实验设计不只是单纯在比较“哪个模型更便宜”,它还做了一个配对替换实验:同样的 22 个任务,同样的 6 个基础模型,同样的评测方式和价格表,每组条件都跑两遍。第一遍使用一套固定版本的传统生产 Agent loop,作为基线;第二遍换成 Writer Agent Harness。这样一来,实验主要观察的变量就集中在编排层。
本次测试模型包括 Claude Sonnet 4.6、Gemini 3.1、Gemini Flash 3.5、Qwen 3.6、GLM 5.1 和 Palmyra X6,覆盖前沿模型、快模型、开源权重候选模型和 Writer 自家的企业模型。
图 2 和图 3:整体效率结果
上图是原论文的图 3 和表 2 的数据,作者特别指出不能过度解读模型的质量从 0.78 到 0.81。毕竟样本量只有 22 个任务(n = 22),质量分数的变化比较适合当作方向性参考。相比之下,成本、Token 消耗和延迟的下降幅度更明显,重要的是在不同任务和不同模型上都呈现了一致趋势。
注意这件事,Harness 没有换模型,也没有换任务,却把每个任务的 Token 消耗从 14.2k 降到 8.8k。
Harness 如何省 Token
论文进一步拆解了 Writer Agent Harness 为什么能减少 Token 消耗。
Prompt 结构
表面上看,它优化的是 Prompt…