全球首个Skills Vibe Agents,AtomStorm技术揭秘:我是怎么用Context Engineering让Agent不"变傻"的

 

开篇:我的Agent"痴呆"了

去年9月份正式做AtomStorm 之前,4个月烧了2万刀Token,全球首款Skills Vibe Agent终于开启邀请内测,我也终于敢说:Sam Altman预言的超级个体,可能真的来了,我用LangChain搭过三版原型,每版都让我怀疑人生。

第一版是标准的ReAct模式,Demo阶段看起来挺聪明,能跑,但稍微聊深一点,超过10轮就开始胡说八道。第二版我天真地加了Memory模块,好了一点,但一遇到复杂的多步骤任务就扛不住。第三版咬牙上了LangGraph,流程倒是可控了,但Context管理依然是一塌糊涂。

一开始我以为是Prompt写得不够好。为了修正它,我加了大量的角色设定,甚至在System Prompt里用大写字母强调"你要记住上下文",折腾两天,完全没用。

后来我硬着头皮把完整的对话日志拉出来,逐行分析,才发现问题根本不在Prompt——

Context Window撑爆了。

我算了一笔细账:系统提示占3000 token,工具描述4000,前面稍微聊个30轮,对话历史就累积了近10万 token。等轮到处理用户当前这句话时,模型的"注意力"早被稀释成渣了。

以一个典型的PPT生成任务为例。用户和Agent交互20轮,光对话历史就累积了6万 token。再加上系统提示、工具描述、RAG检索结果,轻松突破10万。

很多人看到Claude 4.5 Opus支持200K、GPT-5.2有400K,觉得"够用,随便塞"。

这简直是天大的误区。

Context Window不是硬盘,它是内存。它不存储记忆,它分配注意力。你塞进去的每一段文字,都在抢模型的注意力资源。塞得越多,每个部分分到的注意力就越少。

到了后期,模型名义上"知道"前面的信息,但实际上根本没在"关注"。

这就是为什么现在圈内开始提Context Engineering。它关注的不是"单次输入怎么写",而是"在整个对话周期里,怎么分配和管理模型的注意力资源"。

这就是我想在本文中分享的核心:怎么通过Context Engineering,把一个"痴呆"的Agent救回来,并最终演变成我在AtomStorm里实现的Skills Vibe Agents。

Part 1:为什么你的Agent会"变傻"?

大模型的Context Window更像是一个"注意力预算"。

举个真实的例子。你主持一个只有1小时的紧急会议。为了让所有人充分表达,你让20个人轮流发言,每人说了3分钟。会议结束后,你能精准复述出谁说了什么?

大概率你只记得最后两三个人的重点,前面的全糊了,甚至开始混淆谁说了哪句话。

大模型也一样。它不是像电脑那样"记住"你给的所有信息,而是通过Attention机制在进行"即时关注"。受限于算力和架构,它只能重点处理一部分,其他的就会自动退化为背景噪音。

我管这个现象叫"上下文腐烂"(Context Rot)。

在AtomStorm早期的内测中,我们观察到几个典型症状,大家看看眼不眼熟:

  • • Agent开始重复问你之前明明答过的问题(比如"用户偏好什么风格?"问了三遍);
  • • 明明工具列表里挂着,Agent却说"我无法执行这个操作";
  • • 输出质量肉眼可见下滑,从逻辑严谨的策略级变成东拉西扯的敷衍级;
  • • 最离谱的是,它开始一本正经地"编"之前根本没提过的约束条件。

模型不是不聪明,是我们把它的注意力搞散了。

刚才算过那个账:3000 token的系统提示,聊100轮就是被读100次。光是这几千字就吃掉了30万 token的预算。如果每个轮次还塞进一堆无用的RAG检索结果,真正的"当前指令"能分到的注意力几乎为零。

所以,Context Engineering的核心任务,就是在一个实时的、动态的、有限的窗口里,决定哪些信息必须留,哪些必须丢。


Part 2:Context Engineering四大实战策略

搞清楚问题,解法就清晰了。以下是我在AtomStorm开发过程中摸爬滚打出来的四条路子,每一条都是真金白银换来的教训。

策略一:系统提示别写小作文

很多人写System Prompt有"小作文情结"。角色设定、行为规范、输出格式、注意事项...一股脑全塞进去。我见过最夸张的,光System Prompt就写了5000字,看着挺专业,模型直接懵了。

问题是,这些内容每一轮都要被模型读一遍。这就像开会时,每发言一个人,主持人都要把公司章程从头读一遍,效率极其低下。

我现在在AtomStorm里用的是分层注入法。

代码逻辑大概是这样的(示例)

# 核心层 (常驻内存 < 500 tokens)
core_identity: |
  你是AtomStorm主Agent。你的职责是理解用户意图,并将任务分发给对应的Skills。
  约束:只做规划,不执行具体细节。

# 场景层 (动态加载)
scenarios:
  ppt_generation: |
    当前任务涉及PPT生成。
    - 风格:默认商务极简风,除非用户指定。
    - 结构:封面 -> 目录 -> 正文(3-5页) -> 结尾
    - 工具优先级:outline_generator > slide_writer

# 示例层 (用完即删)
few_shots:
  - user: "帮我做个AI汇报PPT"
    agent_thought: "检测到'PPT'关键词,触发ppt_…
— 以上为试看内容(约 40%),开通会员后阅读全文 —