别再迷信长上下文了:真正拖垮 Agent 的是上下文腐化

CONTEXT ENGINEERING

真正拖垮 Agent 的,不是窗口太短,而是上下文腐化


长上下文解决的是装下;上下文治理解决的是装下之后还能不能判断。

弱 Agent 把历史当仓库。强 Agent 把历史炼成状态。

现在很多人对 Agent 的期待,卡在一个很朴素的信念里:上下文越长,Agent 越强。

窗口从 128K 走到 1M,听起来像是一次根本性解放。只要模型能看完所有历史,它就应该能少忘事、少绕路、少犯错。

这个判断有一半是真的。长窗口确实能缓解装不下的问题。但另一半很危险:Agent 失败,很多时候不是因为历史没塞进去,而是塞进去以后,模型已经分不清什么该信、什么该丢、什么已经过期。

它读过文件,却忘了约束;它查过资料,却重复搜索;它放弃过一条路线,几轮后又绕回去;它明明跑过测试,后面却像没验证过一样继续猜。

这不是简单的记忆问题。这是上下文腐化。窗口还没满,判断已经坏了。

本文看点

01

为什么长上下文不是解药

02

压缩到底要保住什么

03

生产级 Agent 怎样治理上下文

01 DECAY

长上下文不是大脑,只是更大的现场

很多系统把上下文窗口当成 Agent 的大脑,这是第一个误判。

窗口只是现场。现场越大,能摆进去的证据、日志、文件、网页、工具结果越多。但现场本身不会自动归档,不会自动去重,不会自动标记风险,也不会自动告诉模型:这一条已经被推翻,那一条才是当前结论。

上下文腐化发生得很早。不是等窗口爆了才出问题,而是在信息密度下降、重复证据变多、过期结论残留、失败路径没有标记时,决策质量就开始滑坡。

你以为模型在读完整历史。实际上,它经常是在一堆半成品材料里临时捞线索。捞对了,看起来很聪明;捞错了,就会重复工作、目标漂移、自己打脸。

所以长上下文不是解药。在没有上下文治理能力的系统里,长窗口只是更大的混乱现场。

关键判断

真正的问题不是“能不能装下”,而是“装下之后,信息有没有被治理成可决策状态”。



— 上下文腐化机制图。信号、噪声、过期结论和失败路径怎样挤在同一个窗口里。

02 STATE

压缩不是省 token,是拯救注意力

很多人理解上下文压缩,第一反应是省钱、省 token、防止超窗口。这个理解没有错,但太浅。

压缩真正要救的不是账单,而是注意力。Agent 后续决策需要的不是完整经历,而是一份能直接使用的工作记忆。

这份工作记忆至少要回答六个问题:当前确认了什么,证据在哪里,哪些问题还没解决,哪些路径已经失败,哪些约束绝对不能碰,下一步围绕什么做判断。

原始上下文只是经历。结构化状态才是经验。

如果没有这一步,Agent 每一轮都要在旧日志、网页片段、工具结果和对话残留里重新找线索。它不是在持续变聪明,而是在反复翻旧账。

工作记忆最小模板

01已确认事实

只保留已经被证据支撑、后续决策会依赖的结论。

02证据与来源

保留 URL、文件路径、行号、测试命令、工具调用结果入口。

03未解决缺口

明确还没查清的问题,不让模型用流畅表达把空白糊过去。

04失败路径

写清楚为什么放弃,避免几轮之后重新踩坑。

05不可碰约束

权限、接口契约、兼容性、用户明确要求,都要独立标出来。

06下一步判断

把下一轮要做的选择写成问题,而不是留下散乱历史。



— 压缩不是摘要,是状态重构。把杂乱轨迹变成一张可执行状态卡。

03 BAD SUMMARY

最烂的压缩,是“请总结上文”

做 Agent 压缩,最不能写的提示词就是:请总结以上内容。

普通摘要关心原文讲了什么。Agent 压缩关心下一步决策还需要什么。二者不是一回事。

同一段材料,放在不同任务里,保留重点完全不…

— 以上为试看内容(约 40%),开通会员后阅读全文 —