别再迷信长上下文了:真正拖垮 Agent 的是上下文腐化
真正拖垮 Agent 的,不是窗口太短,而是上下文腐化
长上下文解决的是装下;上下文治理解决的是装下之后还能不能判断。
弱 Agent 把历史当仓库。强 Agent 把历史炼成状态。
现在很多人对 Agent 的期待,卡在一个很朴素的信念里:上下文越长,Agent 越强。
窗口从 128K 走到 1M,听起来像是一次根本性解放。只要模型能看完所有历史,它就应该能少忘事、少绕路、少犯错。
这个判断有一半是真的。长窗口确实能缓解装不下的问题。但另一半很危险:Agent 失败,很多时候不是因为历史没塞进去,而是塞进去以后,模型已经分不清什么该信、什么该丢、什么已经过期。
它读过文件,却忘了约束;它查过资料,却重复搜索;它放弃过一条路线,几轮后又绕回去;它明明跑过测试,后面却像没验证过一样继续猜。
这不是简单的记忆问题。这是上下文腐化。窗口还没满,判断已经坏了。
本文看点
01
为什么长上下文不是解药
02
压缩到底要保住什么
03
生产级 Agent 怎样治理上下文
01 DECAY
长上下文不是大脑,只是更大的现场
很多系统把上下文窗口当成 Agent 的大脑,这是第一个误判。
窗口只是现场。现场越大,能摆进去的证据、日志、文件、网页、工具结果越多。但现场本身不会自动归档,不会自动去重,不会自动标记风险,也不会自动告诉模型:这一条已经被推翻,那一条才是当前结论。
上下文腐化发生得很早。不是等窗口爆了才出问题,而是在信息密度下降、重复证据变多、过期结论残留、失败路径没有标记时,决策质量就开始滑坡。
你以为模型在读完整历史。实际上,它经常是在一堆半成品材料里临时捞线索。捞对了,看起来很聪明;捞错了,就会重复工作、目标漂移、自己打脸。
所以长上下文不是解药。在没有上下文治理能力的系统里,长窗口只是更大的混乱现场。
关键判断
真正的问题不是“能不能装下”,而是“装下之后,信息有没有被治理成可决策状态”。
— 上下文腐化机制图。信号、噪声、过期结论和失败路径怎样挤在同一个窗口里。
02 STATE
压缩不是省 token,是拯救注意力
很多人理解上下文压缩,第一反应是省钱、省 token、防止超窗口。这个理解没有错,但太浅。
压缩真正要救的不是账单,而是注意力。Agent 后续决策需要的不是完整经历,而是一份能直接使用的工作记忆。
这份工作记忆至少要回答六个问题:当前确认了什么,证据在哪里,哪些问题还没解决,哪些路径已经失败,哪些约束绝对不能碰,下一步围绕什么做判断。
原始上下文只是经历。结构化状态才是经验。
如果没有这一步,Agent 每一轮都要在旧日志、网页片段、工具结果和对话残留里重新找线索。它不是在持续变聪明,而是在反复翻旧账。
工作记忆最小模板
01已确认事实
只保留已经被证据支撑、后续决策会依赖的结论。
02证据与来源
保留 URL、文件路径、行号、测试命令、工具调用结果入口。
03未解决缺口
明确还没查清的问题,不让模型用流畅表达把空白糊过去。
04失败路径
写清楚为什么放弃,避免几轮之后重新踩坑。
05不可碰约束
权限、接口契约、兼容性、用户明确要求,都要独立标出来。
06下一步判断
把下一轮要做的选择写成问题,而不是留下散乱历史。
— 压缩不是摘要,是状态重构。把杂乱轨迹变成一张可执行状态卡。
03 BAD SUMMARY
最烂的压缩,是“请总结上文”
做 Agent 压缩,最不能写的提示词就是:请总结以上内容。
普通摘要关心原文讲了什么。Agent 压缩关心下一步决策还需要什么。二者不是一回事。
同一段材料,放在不同任务里,保留重点完全不…