终于,万众瞩目的 LangChain V1.0 版本正式发布了!
其实在“剑锋小课堂”这个专栏中,我花费了大量的篇幅去介绍关于 LangChain 框架的基本使用方式,包括模型抽象、工具(tools)集成、智能体(Agent)执行、链式调用(chains)、记忆与检索强化(RAG)等在内的一揽子机制。
那对于最新的 V1.0 版本而言,其最显著的代码层面变化集中在 create_agent() 方法。如果你之前没有用过旧版本的LangChain,那么以下关于更新内容的介绍可以跳过不看。
首先,create_agent() 变成了构建 agent 的标准入口,它封装了底层 LangGraph 的 graph 执行机制,将“模型调用 → 决策工具 → 执行工具 → 返回结果”这一闭环流程封装在一个高阶接口中。所以们在文档中也可以看到这样一句话:
create_agentis the standard way to build agents in LangChain 1.0
其次,原来在早期版本中需要手动配置 prompts、 hook 、状态定义等细节,在 V1.0 中这些被抽象为 middleware 机制(如 before_model、wrap_tool_call 等),开发者可以通过传 middleware 数组把通用逻辑拼入,而不需改原 agent 核心逻辑。这大大的方便了开发者能够打造真正应用于生产的智能体(过去很多时候用 LangChain 的 create_react_agent 往往打造的只是一个“玩具”而已)。
再者,参数命名和入口路径也发生了迁移:如 prompt 变为 system_prompt。这意味着我们不需要再从 hub (已经移出核心框架迁移至 langchain-classic )里去输入大段的提示词了,只需要传入系统提示词就够了,LangChain 后台会自动帮我们组合成完整的提示词引导模型的行为。
除此之外,旧的 create_react_agent() 和 AgentExecutor 被替换并迁移至 langchain-classic 。同时过去的传统链(比如 LLMChain )和传统记忆方式(比如 CoversationBufferMemory) 也被迁移至 langchain-classic 。
这些改动意味着:如果你之前基于较早版本开发,迁移到 V1.0 将需要重构部分 import 路径、参数名称、状态定义方式、 agent 构建方式等。并且最好将其升级为最新的链(LCEL)和记忆(RunnableWithMessageHistory() 或 InMemorySaver())等方法。
总的来说,LangChain V1.0 在代码使用层面表现为“更统一、更可控、更生产就绪” —— 以 create_agent() 为核心入口,以 middleware 为扩展机制,以标准 message 块与统一接口为基础,为构建现代 LLM agent 系统提供了清晰、稳定的框架。所以下面的课程里,我们就一起来看看,如何基于最新版的 Agent 创建机制实现智能体的快速搭建吧!
前期准备
在正式开始之前,我们需要准备几个事情。第一个就是安装最新版的 LangChain。
pip install -U langchain langgraph langchain-community dashscope arxiv
然后就是到阿里云获取一下 API_Key,并且最好将其设置到环境变量之中(DASHSCOPE_API_KEY)。前面的课程里我们都有提到过API_Key获取和设置方法,大家可以到文章中获取一下:《万字长文!手把手带你上手基于LangChain及Qwen大模型的开发与应用》。
那获取到了密钥后,只要能够成功运行以下代码就代表以准备完成:
from langchain_community.chat_models import ChatTongyifrom langchain_core.messages import HumanMessageimport os# 初始化模型llm = ChatTongyi(api_key=os.environ.get("DASHSCOPE_API_KEY"))# 发送消息response = llm.invoke([HumanMessage(content="你好,请用一句话介绍一下你自己。")])print(response.content)
快速搭建智能体
一、智能体简介
首先我们可以在官方文档看到 create_agent 的 graph 形式:
从本质上来说,create_agent 打造的就是一个基础的 ReAct Agent 的形式,就是我们把问题传给大模型,然后让大模型思考需要使用什么工具(action),然后调用完工具获取到的结果(observation)返回给大模型。接着大模型再去不断的重复这个循环直到其认为已经搜集到足够的信息或者完成指定的任务后,就会退出这个循环(finish)并给出最终的回复。
那在这个场景下,create_agent 需要我们准备以下几个基本的组件:
- 模型(也就是前面的
ChatTongyi) - 工具库(内置工具或自建工具)
- 记忆(帮助模型直到当前进行到哪一步)
- 提示词(引导模型)
那我们下面就来一个个的看看如何创建这些基本的组件并快速搭建一个智能体!
导入模型
那首先我们还是像前面一样准备好模型:
from langchain_community.chat_models import ChatTongyiimport osllm = ChatTongyi(api_key=os.environ.get("DASHSCOPE_API_KEY"))
这里的模型我们选择 ChatTongyi 的主要原因不仅仅只是我们这个课程一直都用, 还因为在 LangChain 里其实就属通义千问的适配性最好,而且其还支持工具调用,具体后面我们会提到。
二、导入工具
前面提到 LangChain 里主要有两种方式导入工具,一种是内置工具,另外一种是自行创建,那我们分别进行阐述一下。
(1)内置工具
根据LangChain的官方文档[1],目前 LangChain 提供支持的有以下几类工具:
- 搜索工具:用于在线搜索,包括 Bing、Google、DuckDuckGo 等搜索接口。返回内容一般包括:URL、标题、摘要等。
- 代码辅助工具:支持 Python、JavaScript 等语言的代码执行环境,可用于复杂计算或文件处理。
- 生产力工具:用于对接 Gmail、Office365、Slack、Jira 等办公/协作平台,实现任务自动化。
- 网页浏览:用于浏览网页、交互操作、信息抓取(如Hyperbrowser 等)。
- 数据库:支持与数据库交互,包括 SQL、Spark SQL 等数据库的读取与操作。
- 其他常用工具:维基百科、ArXiv、Python REPL
由于网络的原因,其实大部分的内置工具我们是用不了的,只有一些特定的工具我们能够使用,包括论文查询工具 arxiv、计算器工具 llm-math、维基百科 wikipedia 以及执行 python 代码的 python_repl 。
假如我们要导入这些内置工具的话,我们需要使用 langchain_community 里的 load_tools 方法进行载入。
from langchain_community.agent_toolkits.load_tools import load_toolstools = load_tools(["arxiv"])
假如我们需要导入多个工具的话,我们可以在后面不断添加(部分依赖语言模型来执行计算或生成代码需要传入一个 LLM 实例)。例如:
tools = load_tools(["arxiv","llm-math", "wikipedia"], llm=llm)
除此之外,load_tools这个方法还有一个实参是 allow_dangerous_tools,具体是在本地执行代码、读写文件等(如python_repl工具)是需要开启,因为运行 python 代码可能会涉及删除文件等操作。例如:
tools = load_tools(["python_repl"], llm=llm, allow_dangerous_tools=True)
(2)自定义工具
自定义工具其实本质上就是定义一个函数,比如现在我有一个基于 eval() 的计算器工具函数 calculate:
def calculate(what): return str(eval(what))print(calculate("3 + 7 * 2")) # 返回 17print(calculate("10 / 4")) # 返回 2.5
假如我希望将其改造为一个 LangChain 所支持的工具的话我需要在函数上方加上一个 @tool 装饰器:
from langchain.tools import tool@tooldef calculate(what): return str(eval(what))
然后呢还需要加上介绍函数相关信息的文档字符串以及输入输出参数说明:
from langchain.tools import tool@tooldef calculate(what: str) -> str: """ calculate: e.g. calculate: 4 * 7 / 3 Runs a calculation and returns the number - uses Python so be sure to use floating point syntax if necessary """ return str(eval(what))
当然其实我们除了函数的文档字符串以外,还可以添加输入输出参数的具体信息,比如我们可以通过 Pydantic 添加了一个输入参数的介绍信息,然后通过 @tool 中的 args_schema 将这部分信息载入:
from pydantic import BaseModel, Fieldclass CalcInput(BaseModel): """Input for math calculation""" what: str = Field(description="A mathematical expression, e.g., '4 * 7 / 3'") from langchain.tools import tool@tool(args_schema=CalcInput)def calculate(what: str) -> str: """ calculate: e.g. calculate: 4 * 7 / 3 Runs a calculation and returns the number - uses Python so be sure to use floating point syntax if necessary """ return str(eval(what))
这样的话这个工具在载入到 Agent 的时候就会创建成 Function Calling 的格式将这些信息传给 LLM 进行参考使用:
functions = [ { "name": "calculate", "description": "Runs a calculation and returns the number - uses Python so be sure to use floating point syntax if necessary", "parameters": { "type": "object", "properties": { "what": { "type": "string", "description": "A mathematical expression to evaluate, e.g. '4 * 7 / 3'" } }, "required": ["what"] } }]
(3)工具的组合
在定义好多个自定义工具后,我们可以将其组装在一起传给 Agent ,比如:
tools = [calculate, average_dog_weight]
但是假如我们想要的 LangChain 的内置工具一起传入的话,我们的写法需要变为:
tools = load_tools(["arxiv"] + [calculate, average_dog_weight])
那在后续的内容里,为了简化整个流程,我们这里就选用 arxiv 作为智能体的工具进行演示(需要先安装 arxiv,这在前期准备中已经完成):
from langchain_community.agent_toolkits.load_tools import load_toolstools = load_tools(["arxiv"])
三、构建短期记忆
在前面讲 LCEL 的内容里我们提到了,为了能够包裹一个 runnable 的组件,我们所使用的是 RunnableWithMessageHistory 的记忆方法。但是由于现在智能体的创建是基于 LangGraph 实现的,因此我们所使用的记忆方法就不再是这个了,而是使用 InMemorySaver() 的方法实现短期记忆的存储。
所谓的短期记忆呢,其实指的是只保存的是保存当前对话轮次、临时上下文,用于连续对话或局部推理。那 InMemorySaver() 的作用是在图(Graph)执行的过程中,保存 agent 的对话、状态、工具调用等信息,让系统在一次会话(session)中能“记住”先前的输入输出。
短期记忆的信息只存在与内存中(RAM),一旦程序关闭、刷新或重启,数据就会消失。假如我们需要构建长期的记忆,我们需要把记忆存储到数据库中,在后面的进阶内容中我们会更进一步的讲述到。
那创建这个记忆的方法也非常的简单,就是像之前的 CoversationBufferMemory 一样创建后就会自动的保存所有的信息了:
from langgraph.checkpoint.memory import InMemorySaver memory = InMemorySaver()
那在这个短期记忆里会怎么保存我们的记忆呢?其实和之前的类似,比如我们在与大模型对话的过程中常见的就有几类信息:
- 系统提示词(通常是第一条信息,用于引导模型整体的行为)
- 用户提示词(用户发出的问题)
- 模型提示词(模型对于用户问题的回复或调用工具的指令)
- 工具提示词(在模型发出执行工具的指令后返回的信息)
那这个短期记忆就会把这些所有的信息都保存到 AgentState 当中,这个 AgentState 其实一个用于管理 Agent 当前状态的结构(Schema),其默认格式大概是这样的:
{"messages": [...], "thread_model_call_count": 1, "run_model_call_count": 1}
那这里面最重要的其实就是 "messages" (其他都是一些辅助的元数据),这里就保存了智能体在每个时间点上需要记住的所有上下文信息。比如像这样简单的一问一答(当然这里面有很多的元数据也会保存起来):
[HumanMessage(content="hi! I'm bob", additional_kwargs={}, response_metadata={}, id='beb6e2…