LangChain 只换了模型外面的基础设施——同一个模型、同一套权重——就从 TerminalBench 2.0 排行榜 30 名开外直接跳到了第 5 名。另一个独立研究项目让大模型自己优化这层基础设施,达到了 76.4% 的通过率,超过了所有人工设计的方案。
模型没变。变的是模型外面的那一层。
Akshay Pachaar 刚发了一篇非常扎实的长文,把 Anthropic、OpenAI、LangChain、CrewAI 这些头部玩家正在构建的智能体基础设施做了一次完整的解剖。这层基础设施有了一个正式的名字:Agent Harness(智能体线束)。
一句话总结:你的智能体表现差,大概率不是模型的问题,是 Harness 的问题。你搭了一个 chatbot、接了几个工具、跑通了 demo,然后试着做一个生产级的产品——结果模型忘了三步之前做过什么,工具调用悄无声息地失败,上下文窗口里塞满了垃圾。这不是模型笨。是包裹模型的那层基础设施没到位。
01 什么是 Harness
:::这个概念在 2026 年初被正式命名,但思路早就有了。Harness 指的是包裹在大模型外面的全部软件基础设施:编排循环、工具调用、记忆系统、上下文管理、状态持久化、错误处理、安全护栏。Anthropic 的 Claude Code 文档直说:SDK 就是「驱动 Claude Code 的 Agent Harness」。OpenAI 的 Codex 团队用的是同样的说法。
这个定义非常重要,因为它意味着 Harness 不是「一层薄封装」,而是一个完整的软件系统——可能比你的业务逻辑还复杂。LangChain 的 Vivek Trivedy 有一句我很喜欢的话:
如果你不是模型,你就是 Harness。
区分一下容易搞混的概念。「智能体」是涌现行为——有目标、会用工具、能自我纠正的那个你看到的东西。Harness 是产生这种行为的机器。当有人说「我做了一个智能体」,他们实际做的是:搭了一个 Harness,然后把它指向一个模型。
Beren Millidge 在 2023 年的论文里用了一个精确的类比:裸模型就是一颗没有操作系统的 CPU——没有 RAM、没有硬盘、没有 I/O。上下文窗口是内存(快但小),外部数据库是磁盘(大但慢),工具集成是设备驱动,而 Harness 就是操作系统。他的原话是:「我们重新发明了冯·诺依曼架构。」
02 三层工程
:::围绕模型的工程有三个同心层次:
提示工程——设计模型接收到的指令。上下文工程——管理模型看到什么、什么时候看到。Harness 工程——包含前两者,加上整个应用基础设施:工具编排、状态持久化、错误恢复、验证循环、安全执行、生命周期管理。
Harness 不是提示词的封装。它是让自主智能体行为成为可能的完整系统。很多人把「做智能体」等同于「写好提示词」,这就像把「做操作系统」等同于「写好启动脚本」——只碰到了冰山一角。
03 十二个组件
:::综合 Anthropic、OpenAI、LangChain 和开发者社区的实践,一个生产级的 Harness 有12 个独立组件。我挑几个最关键的展开说。
编排循环是心跳。它执行 Thought-Action-Observation 循环(也叫 ReAct 循环):组装提示 → 调用模型 → 解析输出 → 执行工具调用 → 把结果喂回去 → 重复直到完成。机械上看就是一个 while 循环。Anthropic 自己都说他们的运行时是一个「傻循环」——所有智能都在模型里,Harness 只管理轮次。
但这个「傻循环」管理的东西一点都不傻。
一个简单的问题可能只需要 1-2 个循环。一次复杂的代码重构可能链式调用几十次工具,横跨多个循环。循环的终止条件是分层的:模型产生了不含工具调用的响应、达到最大轮数上限、token 预算耗尽、安全护栏触发、用户中断、或模型返回安全拒绝。每一层都是一道防线。
对于跨越多个上下文窗口的长任务,Anthropic 开发了一种「Ralph 循环」模式:一个初始化智能体搭建环境(初始化脚本、进度文件、功能列表、初始 git 提交),然后后续每个会话的编码智能体读取 git 日志和进度文件来定位自己、选择最高优先级的未完成功能、完成后提交并写摘要。文件系统提供了跨上下文窗口的连续性。
工具系统是智能体的手。工具以 schema(名称、描述、参数类型)的形式注入上下文。Claude Code 提供了六类工具:文件操作、搜索、执行、网络访问、代码分析、子智能体生成。OpenAI 的 SDK 支持函数工具(@function_tool)、托管工具(WebSearch、CodeInterpreter)和 MCP 服务器工具。
04 记忆系统
:::记忆在多个时间尺度上运作。短期记忆是单次会话内的对话历史。长期记忆跨会话持久化。各家的实现不同:
Anthropic 用 CLAUDE.md 项目文件和自动生成的 MEMORY.md 文件。LangGraph 用命名空间组织的 JSON 存储。OpenAI 支持基于 SQLite 或 Redis 的 Sessions。
Claude Code 的记忆系统特别值得说。它实现了三层层级结构:一个轻量级索引(每条约 150 字符,永远加载)、按需拉取的详细主题文件、以及只通过搜索访问的原始对话记录。关键设计原则是:智能体把自己的记忆当成「提示」,在行动前先验证。不盲信自己记住的东西。
这让我想到一个现实中的类比。人类工程师调试问题的时候,也不会完全依赖记忆——他们会打开之前的笔记、翻 git log、看看上次怎么处理的。好的智能体也应该这样。「我记得这件事」和「让我确认一下这件事」之间,差的是可靠性。
05 上下文管理
:::这是很多智能体悄无声息失败的地方。核心问题叫上下文腐烂:当关键内容落在上下文窗口的中间位置时,模型性能下降超过 30%(Chroma 研究数据,斯坦福的「Lost in the Middle」论文佐证)。即使百万 token 窗口也会随着上下文…