LangChain v1.0 在 Agent 与 Model 使用方式上引入“静态模型”和“动态模型”两种形态:
- 静态模型:在创建 Agent 或独立调用时一次性指定模型,执行期间不变。
- 动态模型:在运行时依据上下文与状态选择最合适的模型,通过中间件(middleware)实现。
- 统一的模型初始化与消息表示:
- 提供统一的模型初始化入口(如
init_chat_model与create_agent),便于跨提供商切换。 - 标准化消息内容块(
content_blocks)统一表示推理、工具调用、多模态输出等高级特性,降低跨提供商差异带来的复杂度。
核心优势:为什么选择 LangChain v1.0 的模型架构?
- 统一初始化与接口一致性:
create_agent成为 v1.0 推荐的建 Agent 方式;模型既可用字符串( provider + model 标识),也可用具体模型实例,接口更简洁。init_chat_model提供标准化初始化与参数传递(如temperature、timeout、max_tokens、max_retries),提升跨提供商一致性。- 动态模型选择提升灵活性:
- 可在同一条业务链路中按需切换模型,实现成本优化、能力路由与降级策略。
- 标准消息内容块带来跨提供商一致体验:
- 在 v1.0 中引入的
content_blocks标准化表示推理、工具调用、多模态数据与引用,统一解析不同提供商的原生响应。 - 代理(Agent)开发体验更可扩展:
- 通过中间件开放
before_model/after_model/wrap_model_call/wrap_tool_call等钩子,动态提示词、状态管理、人工审核与错误处理更自然。 - 解决跨提供商差异与接口碎片化:
- v1.0 通过统一初始化与标准消息内容块,降低了在 OpenAI、Anthropic 等不同提供商之间切换的心智负担。
- 解决 Agent 组合能力的可扩展性问题:
- 旧式 pre/post hooks 被中间件替代,更易复用与组合,适合复杂的上下文工程实践(摘要、审查、脱敏等)。
- 解决模型选择的刚性问题:
- 过去常在一次 Agent 生命周期内固定模型;现在可在运行时根据状态选择模型,提升成本/能力权衡的灵活度。
核心概念与基础实现
静态模型(Static Model):固定与高效
- 定义:在创建 Agent 时或直接调用模型时,固定选择一个模型实例或模型名称,整个执行过程中保持不变。
- 典型使用:
- 快速建 Agent:
create_agent("gpt-4o", tools)或传入模型实例。 - 独立调用:使用
init_chat_model初始化模型后直接invoke/stream/batch。
from langchain.agents import create_agentfrom langchain_openai import ChatOpenAI# 方式一:用模型名称(字符串)agent = create_agent( "gpt-4o", # 具体模型标识,按你的提供商可替换 tools=[])# 方式二:用模型实例(更细粒度参数控制)model = ChatOpenAI( model="gpt-4o", temperature=0.1, max_tokens=1000, timeout=30,)agent = create_agent(model, tools=[])
动态模型(Dynamic Model):灵活与智能
- 定义:在运行时根据会话状态(如消息数量、任务复杂度等)选择不同模型,常见于成本、能力与稳定性的动态权衡。
- 实现方式:通过中间件,在模型调用前拦截并替换请求中的模型(
wrap_model_call)。
from langchain_openai import ChatOpenAIfrom langchain.agents import create_agentfrom langchain.agents.middleware import wrap_model_call, ModelRequest, ModelResponsebasic_model = ChatOpenAI(model="gpt-4o-mini")advanced_model = ChatOpenAI(model="gpt-4o")@wrap_model_calldef dynamic_model_selection(request: ModelRequest, handler) -> ModelResponse: # 示例逻辑:依据消息条数切换模型 message_count = len(request.state["messages"]) if"messages"in request.state else0 request.model = advanced_model if message_count > 10else basic_model return handler(request)agent = create_agent( model=basic_model, # 默认模型 tools=[], middleware=[dynamic_model_selection])
在 dynamic_model_selection 示例中,我们通过 request.state["messages"] 获取了会话历史。这里的 request.state 是一个关键概念,它通常由上层的执行器(如 LangGraph)在图的流转过程中负责填充和传递。state 本质上是一个字典,包含了当前执行步骤的所有上下文信息,例如历史消息、中间步骤的输出等。中间件正是通过访问这个 state,才能实现依赖于当前对话状态的复杂逻辑。
中间件(Middleware):Agent 的“插件”系统
中间件是 LangChain v1.0 架构的核心,它允许在模型或工具调用前后注入自定义逻辑,实现了类似 AOP(面向切面编程)的强大功能。
中间件不仅限于模型选择,还可以用于实现横切关注点(Cross-Cutting Concerns),如日志记录、监控或请求修改。以下是一个简单的日志记录中间件…
— 以上为试看内容(约 40%),开通会员后阅读全文 —