横向拆解Claude Code、Codex等六大Agent上下文压缩策略后,我们做了第 7 个


横向拆解六大 Agent 的上下文压缩策略,提炼通用配方,并面向云端多用户的 Agent 场景落地一套四级水位线方案。

1. 同一个问题,六种做法

Agent 要做上下文压缩,如今几乎成为所有 agent 必做的一环。有意思的是怎么做——我花了不少时间把主流方案扒了一遍,发现大家的分歧大得离谱。

产品
核心策略
一句话概括
Claude Code
五段流水线,按成本递增排列
便宜的本地操作先上,LLM 摘要兜底
Codex CLI
保留近期用户消息原文,其余全部替换为 handoff 摘要
用户说的话最准确,模型说的可以重写
OpenCode
时间戳标记隐藏 + 结构化摘要 + 回放最后一条用户消息
不真删,理论上可恢复
Cline
/smol
(/compact)生成摘要后在同一任务内接续
自动 + 手动双模式
Cursor
自动摘要 + 提示开新对话 + 历史可搜索
压缩后仍能回溯原始历史
Amp
不做递归压缩,用 /handoff 开新线程携带要点
长对话本身就是问题,换线程比压缩好
MemGPT / Letta
上下文 = RAM,历史 = 磁盘,Agent 自主换入换出
操作系统级的内存调度

六家产品,六种哲学。说明这件事没有显而易见的最优解,每一种选择背后都是取舍。

后面的内容分三块展开。先横向看看各家的具体做法和设计考量;然后从中提炼几条已经接近共识的原则;最后介绍我们在 MUR AI 上最终落地的方案——四级水位线 + 增量摘要,以及云端多用户场景下额外需要的几层设计。

MUR AI 是一个面向用研场景的云端多用户 Agent。跑在云端、服务多人这两个特点,让我们在压缩方案上比本地 CLI 工具多了好几层要考虑的事,第 6 节会细聊。


2. 反面教材:第一代"撑不住才动手"

要理解新方案为什么长成这样,先得看清它们想摆脱什么。第一代压缩的逻辑一句话能讲完:

直观,好实现。但用过的人都知道体验很差——下面五条是痛点的根源。后面你会发现,新方案各自的设计选择,本质上就是在重点解决其中某一两条。

悬崖式触发。 不溢出的时候一动不动——对话越来越胖、模型注意力越来越散,系统毫无反应。一旦溢出就全量出手,把前面几十轮一口气捏成一段摘要。这种"零或全"意味着触发的那一刻质量已经塌了——模型刚因为信息过载走神,紧接着又被剥夺大半上下文。

全量摘要丢细节。 几十轮消息压成几百字,无论 prompt 写得多好都会丢变量名、函数签名、错误堆栈、用户的具体措辞——偏偏这些是 Agent 继续干活最需要的东西。

Token 估算粗糙。 不少实现用 text.length / 3 估算 token。中英混合场景下误差 30-50%,以为安全实际已经溢出,或者以为该压了实际还早。

不区分信息价值。 5000 行 grep 输出和 5000 token 的关键诊断被同等对待——前者裁了不影响任务,后者裁了 Agent 立刻不会干活。

用户内容被一刀切。 用户贴的代码代表输入意图,和工具输出性质不同。但如果一视同仁地压,就会出现"用户贴的代码被压没了,模型忘了要改什么"。

第一代做法的根本问题:它把压缩当突发事件处理,而不是一种持续维护的能力。


3. 第二代:各家的做法

过去一年,几个主流 Agent 不约而同走向"分层 + 渐进",但味道各不相同。我逐个拆解一下。

Claude Code(Anthropic):五段流水线 + 结构化摘要

Claude Code 把上下文管理做成了一条严格按成本递增排列的流水线:

  1. Budget Reduction——调整工具输出的截断预算
  2. Snip——截短老的工具输出,留"做过什么"的摘要行
  3. Microcompact——对工具输出内容做局部内联压缩
  4. Context Collapse——对更久远的历史做粒度更细的折叠
  5. Auto-Compact——兜底,调 LLM 生成结构化摘要

前四步都是纯本地操作,零 API 调用。只有第五步才会请求 LLM。摘要本身是结构化的,固定包含九个章节:用户意图、主要请求、技术概念、文件与代码段、错误与修复、问题解决过程、用户消息、待办任务、下一步。

有个值得注意的细节:它在压缩时刻意保持消息序列前缀稳定,让 Prompt Cache 命中率不会因为压缩而掉下来。

Claude Code 内部其实还有两条更激进的路径,思路都是"把脏活交给服务端,客户端一个字节都别改":

  • cached_microcompact:把"删掉旧 tool 结果"包装成 API 层的 cache_edits 指令。客户端发出去的 prompt 原封不动,服务端在已缓存的前缀上直接抠掉指定内容——字节没变,缓存不失效。
  • apiMicrocompact:更彻底,直接调 Anthropic 的 context_management API(beta context-management-2025-06-27,Vertex / Bedrock 也支持),让服务端按 input_tokens 阈值自动裁剪旧的工具调用。

换句话说,前面那条本地五段流水线在很多场景下已经退居二线了。能让服务端做的就让服务端做,本地操作永远是兜底。

Codex CLI(OpenAI):近期用户消息优先保护

Codex 的策略相对简单——在约 95% 容量时触发,生成一份 handoff 摘要替换掉旧历史。重建后的上下文只剩三部分:

所有 assistant 回复和工具结果被物理删除,由摘要替代。近期约 20k token 内的用户消息原样保留,更早的用户消息则被蒸馏进摘要里——关键请求和约束会被保留下来。

设计哲学是把压缩当作"同事间的工作交接":进展、约束、剩余任务,足够下一个模型接手继续干。

OpenCode:可逆隐藏 + 回放最后一条指令

OpenCode 的做法我觉得很有意思,它分两步走:

第一步 Prune(轻量,无 LLM 调用):每次成功响应后自动触发。往回遍历消息,跳过最近 2 轮用户对话,保护最近 40k token 的工具输出不动,把更老的工具输出用时间戳标记为"已压缩"。关键是——数据还在数据库里,只是模型看到的变成了占位符 [Old tool result content cleared]。

第二步 Summary(重量,调 LLM):只在 token 用量超过模型输入上限时触发。生成一份五段式结构化摘要(目标 / 指令 / 发现 / 已完成 / 相关文件),然后自动回放用户最后一条消息——模型不会从摘要继续,而是从你最近的指令继续。

值得一提的是,它只有一份摘要同时服务于模型和界面展示,并没有做"给模型看的详细版"和"给用户看的精简版"的分离。

Cline:自动 + 手动双模式

Cline 从 v3.25 开始有两种压缩模式:

  • /smol(别名 /compact):手动触发,生成摘要后在同一任务内接续。决策、代码变更、状态都保留在摘要里,不用切新会话。
  • Auto-Compact:接近上下文上限时自动触发,行为和 /smol 一致。

如果开启了 Focus Chain(v3.25 默认开启),待办列表会穿越压缩存活下来,作为进度锚点。

Cursor:压缩 + 可回溯

Cursor 在上下文超出模型窗口时自动压缩旧消息,同时会提示用户"开一个带摘要的新对话"。

2026 年他们加了个有意思的能力——Dynamic Context Discovery:把聊天历史变成可搜索的文件,即使压缩后 Agent 也能回头检索原始细节。据说在 A/B 测试里减少了 46.9% 的总 token 消耗。

不过社区反馈里有个已知问题:压缩后模型有时会"忘掉"刚才的编辑,Cursor 团队确认这是高优 bug 在修。

Amp(Sourcegraph):不压缩,换线程

Amp 的立场很鲜明:递归摘要会导致性能逐步衰减(他们引用了 OpenAI 的一份内部研究),所以干脆不做。替代方案是 /handoff——把当前线程的要点打包进一个新线程,用户可以在交接前审查和编辑带过去的内容。

线程在 Amp 里是一等公民:可以用 @@ 引用其他线程、用 threads: map 可视化线程关系。理念是"一系列有焦点的短步骤,比一个逐渐退化的长对话好"。

不过 2026 年的 Neo CLI 更新里,Amp 也加了 90% 窗口用量时的自动上下文管理——算是对纯手动路线的一个妥协。

MemGPT / Letta:上下文当 RAM

学术派的代表。直接按操作系统的内存层次来建模:

层级
类比
容量
访问方式
Main Context
RAM
模型上下文窗口大小
始终在 prompt 里
Recall Memory
交换分区
完整对话历史
conversation_search
Archival Memory
磁盘
无限(向量存储)
archival_memory_search

关键区别是:换入换出由 Agent 自己决定(通过函数调用),不是被动截断。Letta 是 MemGPT 的生产化框架,最新版本 v0.16.7(2026 年 3 月),GitHub 22.5k star,还在积极维护。

代价是架构复杂度高、需要外部向量存储、有检索延迟。适合需要跨会话长期记忆的场景,但对单会话内的压缩来说有点重。

3.x 第二代的实施陷阱:滑窗式 stub 替换 = 每步缓存失效

2026-05-13 补

第二代"分层渐进"如果实施得不对,会掉进另一个隐蔽的坑。

想象这样一种实现:你设了一个规则——"保留最近 N 条 tool 结果,更老的替换成 stub"。听起来很合理对吧?问题在于如果这个判断在 step-loop 里每一步都重算,那么每完成一个 step(新增 2 条消息),就有 1 条原本被保留的旧 tool 结果滑出窗口、被替换成 stub。它的字节变了,从这个位置往后的整段 prompt 前缀对 Prompt Cache 就失效了,需要重新写入。

把压缩塞进每个 step 里跑、还用滑窗——结果就是每个 step 缓存前缀都会失效一次。

我们之前有一个真实的 Task:一个 4 轮、177 step、59 分钟的会话,烧了 $77.3,其中 83%($64.8)全是 cache_write。要知道 cache_write 的单价是 cache_read 的 12.5 倍。通过 Langfuse 中的 step 数据,一目了然:

step    nMsgs   #stub   lastStubIdx     cacheRea…
— 以上为试看内容(约 40%),开通会员后阅读全文 —