别一上来就造 Agent。真正在生产的团队,几乎都是从最简单的模式开始,按需一步步增加自主性。 这篇科普把业界沉淀的 Agent 设计模式按「自主性光谱」一次讲清——每个模式是什么、什么时候用、真实场景长什么样。
「Agent」不是一道二选一的选择题。Andrew Ng 说得最清楚:「与其纠结某个系统到底算不算 Agent,不如把系统看成在『类 Agent 程度』上有所不同。」
Anthropic 在《Building Effective Agents》里给出了一对最实用的区分,几乎所有讨论都建立在它上面:
LLM 和工具被编排在预先写死的代码路径里。流程固定,LLM 只在每一步内部做生成,不能决定下一步。
例子 · 固定 RAG 链:用户提问 → 程序固定「先检索知识库 → 再拼提示词 → 最后生成」,三步顺序写死,模型说了不算。还有「营销文案 → 翻译成多语言」的提示词链,也是典型的 workflow。
特点:可预测、易审计、低延迟,适合任务边界清晰、步骤确定的场景。
LLM 动态地决定自己的执行过程——选什么工具、调几次、何时停下,都交给模型判断。
例子 · 客服 Agent:用户说「我想退货」——没有固定脚本,Agent 自己决定:先调工具查订单 → 再核对退货政策 → 判断是否在窗口内 → 才执行退款。每一步用什么工具、要不要继续,都是模型现场决策的。
特点:灵活、能处理开放式任务,但代价是更高的成本、延迟,以及错误可能叠加。
Anthropic 与几十个团队合作后发现:最成功的实现几乎不用复杂框架,而是用简单、可组合的模式。Agent 系统经常用更高的延迟和成本换来更好的任务表现——只在值得时才做这笔交易。
下面这张「自主性光谱」是全文的地图:横轴是从「纯代码控制」到「LLM 完全自主」,每一档都有对应的成熟模式。读完每个模式,你就知道自己的场景应该停在哪一档。
一句话:LLM 是模型,Agent 是系统。区别不在聪明程度,而在于有没有「行动闭环」——LLM 只会生成文本,Agent 会完成任务。
单次输入 → 输出文本。不调工具、不查数据、没有记忆、不能行动——它只是在「生成最像样的回答」。
例子:问 GPT「我的订单到哪了」,它只能基于训练数据猜一个答案;它既不知道你的真实订单,也查不了物流系统。把订单号和物流 API 塞进提示词,它也只能"读"——不能"查"。
LLM + 工具 + 记忆,在一个循环里自主行动:查库、调 API、做动作,拿到结果再决定下一步,直到任务完成。
例子:同一个问题,Agent 会调用 lookup_order() 工具查你的真实订单,调用 track_order() 拿实时物流状态,再基于真实数据回答你——它不是在猜,是在「做事」。
Agent 不是「更聪明的 LLM」,而是「给 LLM 接上规划、记忆、工具,再套一个循环」。Lilian Weng(OpenAI 研究科学家)在 2023 年的经典博客《LLM Powered Autonomous Agents》里给出了这个框架——LLM 是核心大脑,外加三件套:
驱动推理和决策的模型。不必每个任务都用最强模型——先全部用最强模型跑出基线,再逐个换成小模型验证是否达标。简单检索用小模型,审批退款用大模型。
把复杂任务拆成可执行的子目标并排好顺序(任务分解),走不通就反思调整。代表技术:ReAct(推理 + 行动交替)、HuggingGPT 的流水线式拆解。本文 §6 编排-工人的「动态拆解」就是它的一种实现。
短期记忆 = 上下文窗口内的对话历史;长期记忆 = 存到外部存储(向量库、数据库),跨会话保留用户偏好与历史决策,需要时检索注入。记忆的关键不是「存」,而是写什么、读什么、何时忘。
Agent 获取信息、采取行动的通道。三类:Data 工具(查库、读文档、搜网页)、Action 工具(发邮件、改记录)、Orchestration 工具(把别的 Agent 包装成工具)。
Lilian Weng 的框架是学术原版;上生产还要补两样。一是 Instructions 指令:好的指令来自真实运营文档,要求拆解步骤、明确每个动作、预写边缘分支——没有它 Agent 的行为不可控(OpenAI 官方 Agent 指南的第一条)。二是 Guardrails 护栏:相关性分类、安全分类、PII 过滤、内容审核、工具风险分级。没有护栏的 Agent,不能上生产。
Anthropic 的建议:人机交互界面(HCI)值得多少投入,Agent 与工具之间的接口(ACI)就值得多少投入。工具描述要含示例、边界、参数说明;能用绝对路径就不要相对路径(他们做 SWE-bench 时发现模型用相对路径总出错,改成强制绝对路径后零失误)。
把任务拆成一串固定步骤,每一步的 LLM 调用处理上一步的输出。你可以在中间步骤加程序化检查(图中的「闸门」),流程不对就立即停止。
把每个 LLM 调用变成一件更小的任务,用延迟换准确率。每一步的错误不会滚雪球,因为每一步都被检查。
一个「智能交换机」:LLM 给输入分类,然后把它送进最合适的下游通道——不同的提示词、不同规模的模型、甚至不同的微调模型或微服务。
分类是关键能力。输入覆盖的主题和难度越分散,越值得路由——但前提是分类本身能可靠地做好。
让多个 LLM 同时干活,再把结果汇总。两种形态,别搞混:
把任务拆成相互独立的子任务并行执行。每个 LLM 专注解决一个方面——专注度本身就是质量。
例子:让一个模型处理用户主流程,另一个模型同时做内容安全筛查,互不干扰。
同一个任务跑多次(不同提示词或不同模型),拿多样化的结果比较、聚合,提高置信度。
例子:多路审查同一段代码找漏洞;多个提示词评估内容是否违规,投票表决。
收益只有两个:降延迟(同时跑)和提质量(专注 + 多视角)。复杂任务交给单个 LLM 一次处理,效果通常不如拆开让多个 LLM 各管一摊。
开通月度会员,继续阅读本篇剩余内容。