Agent Harness这个词现在是天天见了,但是Harness的内涵究竟是什么,X上的这篇文章算是很好的科普:
原文: https://x.com/akshay_pachaar/status/2041146899319971922 作者: Akshay 🚀 (@akshay_pachaar)
这篇文章将深度揭秘 Anthropic、OpenAI、Perplexity 和 LangChain 到底在捣鼓什么。编排循环 (orchestration loop)、工具 (tools)、记忆 (memory)、上下文管理 (context management)——凡是你能想到的、能把一个无状态的 大语言模型 (LLM) 变成靠谱 智能体 (agent) 的玩意儿,今天一次性说透。你可能已经搭了一个聊天机器人。也许还给它接了几个工具,搞了个 ReAct 循环 (ReAct loop)。演示的时候跑得挺溜。但一旦想做成生产级的玩意儿,车就开始翻了:模型忘了三步之前自己干了啥,工具调用悄无声息地挂了,上下文窗口 (context window) 里塞满了垃圾信息。
问题不在你的模型,而在模型周围的那堆东西。
LangChain 早就验证过这一点——他们只改了包裹 大语言模型 (LLM) 的底层架构(模型没变,权重没变),结果在 TerminalBench 2.0 上直接从 30 名开外飙到了第 5。另一个研究项目更狠,让 大语言模型 (LLM) 自己去优化这套架构,通过率干到了 76.4%,吊打人工设计的系统。
这套架构现在有了个正式名字:智能体 harness (agent harness)。
这个词在 2026 年初才被正式定下来,但概念其实早就存在了。所谓 harness,就是包裹 大语言模型 (LLM) 的一整套软件基础设施:编排循环 (orchestration loop)、工具 (tools)、记忆 (memory)、上下文管理 (context management)、状态持久化 (state persistence)、错误处理 (error handling) 和 安全护栏 (guardrails)。Anthropic 的 Claude Code 文档说得干脆:SDK 就是"驱动 Claude Code 的 智能体 harness (agent harness)"。OpenAI 的 Codex 团队也是同一个路数,直接把 "agent" 和 "harness" 划等号,指的都是让 大语言模型 (LLM) 真正能派上用场的那套非模型基础设施。
我特别喜欢 LangChain 的 Vivek Trivedy 说的那句经典论断:
如果你不是模型,你就是 harness。
这里有个很容易把人绕晕的区别。"智能体 (Agent)" 是一种涌现行为 (emergent behavior):有明确目标、会用工具、能自我纠正,是用户实际交互的那个存在。而 harness 是产生这种行为的机器。所以当有人说"我搭了一个 agent",他的潜台词其实是:我搭了一套 harness,然后把它指向了一个模型。
Agent 与 Harness 的 CPU 和 OS 类比
Beren Millidge 在 2023 年的文章《Scaffolding for AI》里,把这个类比说得极其精准:
一个裸的
大语言模型 (LLM),就像一台没有内存、没有硬盘、没有 I/O 的 CPU。上下文窗口 (context window)充当内存(快但容量有限),外部数据库充当硬盘存储(大但慢),工具集成充当设备驱动。而 harness 就是操作系统。正如 Millidge 所写:"我们重新发明了冯·诺依曼架构 (Von Neumann architecture)",因为这是任何计算系统都绕不开的自然抽象。
围绕模型,有三层同心圆式的工程体系:
- •
提示工程 (Prompt engineering):精心打磨模型收到的指令。 - •
上下文工程 (Context engineering):管理模型在什么时候看到什么内容。 - •
Harness 工程 (Harness engineering):涵盖以上两者,再加上整个应用基础设施——工具编排 (tool orchestration)、状态持久化 (state persistence)、错误恢复 (error recovery)、验证循环 (verification loops)、安全强制执行 (safety enforcement)和生命周期管理 (lifecycle management)。
Harness 不是给 提示 (prompt) 套个壳子。它是让 自主智能体 (autonomous agent) 行为成为可能的完整系统。
综合 Anthropic、OpenAI、LangChain 以及更广泛实践社区的经验,一个生产级的 智能体 harness (agent harness) 包含十二个独立组件。咱们一个一个来盘。
1. 编排循环 (Orchestration Loop) —— Agent 的心跳
这就是 agent 的"心跳"。它实现了思考-行动-观察循环 (Thought-Action-Observation, TAO),也就是我们常说的 ReAct 循环。整个流程跑起来就像这样:组装提示词 → 呼叫大模型 → 解析输出 → 执行工具调用 → 把结果喂回去 → 重复,直到搞定收工。
从机械结构上看,它往往就是个 while 循环。真正的复杂度全藏在循环管理的那些"杂事"里,而不是循环本身。Anthropic 把他们的运行时比作一个"笨循环 (dumb loop)"——所有智商都长在模型身上,执行框架 (harness) 只管轮流转场。
2. 工具 (Tools) —— Agent 的手
工具是 agent 的"手"。它们以 schema(名称、描述、参数类型)的形式定义好,再注入到大语言模型 (LLM) 的上下文里,让模型知道自己手里有什么牌。工具层 (tool layer) 负责注册、schema 校验、参数提取、沙箱执行 (sandboxed execution)、结果捕获,以及把结果格式化成模型能读懂的观察结果 (observations)。
Claude Code 提供了六大类工具:文件操作、搜索、执行、网页访问、代码智能和子智能体孵化 (subagent spawning)。OpenAI 的 Agents SDK 支持函数工具(通过 function calling)、托管工具(WebSearch、CodeInterpreter、FileSearch)以及 MCP 服务器工具 (MCP server tools)。
3. 记忆 (Memory) —— 多个时间尺度的存档
记忆在多个时间尺度上同时运作。短期记忆 (Short-term memory) 就是单次会话里的对话历史。长期记忆 (Long-term memory) 则跨会话持久化:Anthropic 用 claude.md 项目文件和自动生成的 .claude/ 文件;LangGraph 用按命名空间组织的 JSON Stores;OpenAI 支持由 SQLite 或 Redis 支撑的 Sessions。
Claude Code 搞了一个三级层级:轻量级索引(每条约 150 字符,常驻内存)、详细主题文件(按需拉取)、原始 transcript(仅通过搜索访问)。一个关键设计原则:agent 把自己的记忆当作"提示 (hint)",行动前会先跟实际状态核对验证。
4. 上下文管理 (Context Management) —— 无声翻车的高发区
这是很多 agent 默默翻车的地方。核心问题是上下文腐烂 (context rot):当关键内容掉在窗口中间位置时,模型性能暴跌 30% 以上(Chroma 的研究,与 Stanford 的"中间迷失 (Lost in the Middle)"发现相互印证)。哪怕是百万 token 的上下文窗口,随着内容膨胀,指令遵循能力也会下降。
生产环境的应对策略包括:
- • 压缩 (Compaction):快满的时候对对话历史做摘要(Claude Code 会保留架构决策和未解决的 bug,扔掉冗余的工具输出)
- • 观察屏蔽 (Observation masking):JetBrains 的 Junie 把旧的工具输出藏起来,但保留工具调用可见
- • 即时检索 (Just-in-time retrieval):维护轻量级标识符,动态加载数据(Claude Code 用
grep、glob、head、tail,而不是加载完整文件) - • 子智能体委派 (Sub-agent delegation):每个子智能体可以尽情探索,但只返回 1,000 到 2,000 token 的精简摘要
Anthropic 的上下文工程指南点明了目标:找到最小的高信噪比 token 集合,最大化期望结果出现的概率。
5. 提示词组装 (Prompt Assembly) —— 模型此刻看到的世界
这一步组装模型在每一轮实际看到的东西。它是分层堆叠的:系统提示词 (system prompt)、工具定义、记忆文件、对话历史,以及当前用户消息。
OpenAI 的 Codex 用了一套严格的优先级栈:服务器控制的系统消息(最高优先级)、工具定义、开发者指令、用户指令(级联的 .md 文件,32 KiB 限制),然后才是对话历史。
6. 工具调用与结构化输出 (Tool Calling & Structured Output)
现代的执行框架 (harness) 依赖原生工具调用 (native tool calling),模型返回结构化的 tool_calls 对象,而不是需要额外解析的自由…