AI落地Best Practice · 数字人与多模态 · 2025-12-21

文档审核Agent2.0系统落地方案:LangChain1.1+MinerU

基于LangChain1.1和DeepSeek-v3.2大模型,教你从零搭建高效智能文档审核系统,大幅提升审核效率。

核心内容:

  1. 使用MinerU解析PDF文档并结构化处理
  2. 通过LangChain1.1调用大模型实现预设+自定义规则审核
  3. 输出结构化问题列表,支持前端高亮与整改

基于 LangChain1.1 从零搭建AI 文档审核系统

借助大语言模型的能力,我们可以构建一个智能文档审核系统,自动识别文档中的语法错误、不当用语、敏感词汇以及一些定制化的审核规则,大幅提升文档审核效率。本小节课程,我们就从零开始,使用 LangChain1.1 框架和 DeepSeek-v3.2 大模型来进行文档审核Agent系统的开发。  具体来说,我们将实现以下完整功能的开发及运行:核心功能| 步骤 | 说明 | 产出 | | --- | --- | --- | | 输入 | 真实 PDF 文档 | PDF 文件 | | 解析 | 使用 MinerU 解析 | 结构化文本 + 坐标 | | 审核 | 用 LangChain 1.1 调用大模型,按"预设规则 + 自定义规则"审核 | 结构化问题列表 | | 输出 | 将审核结果整理成"问题列表"(表格/JSON) | 可用于前端高亮与整改 |

具体应用到的核心技术栈如下:核心技术栈| 技术 | 作用 | 说明 | | --- | --- | --- | | LangChain1.1 | LLM 应用开发框架 | 简化大模型调用,提供统一接口 | | DeepSeek-v3.2 | 大语言模型 | 国产高性能 LLM,性价比高 | | MinerU | PDF 解析服务 | 将 PDF 转换为结构化文本 | | Pydantic | 数据验证 | 定义结构化输出格式 |

  1. 环境准备与依赖安装1.1 安装必要的依赖库  首先,我们需要安装本课程所需的 Python 库。在当前的 Jupyter Notebook 中运行以下命令:
## 安装核心依赖%pip install langchain langchain-openai pydantic httpx python-dotenv -q
[33mWARNING: Running pip as the 'root' user can result in broken permissions and conflicting behaviour with the system package manager, possibly rendering your system unusable. It is recommended to use a virtual environment instead: https://pip.pypa.io/warnings/venv. Use the --root-user-action option if you know what you are doing and want to suppress this warning.[0m[33m[0mNote: you may need to restart the kernel to use updated packages.

这些库的作用分别如下: - langchain:LLM 应用开发核心框架 - langchain-openai:LangChain 的 OpenAI 兼容接口(DeepSeek 使用 OpenAI 兼容协议) - pydantic:数据验证和结构化输出 - httpx:异步 HTTP 客户端,用于调用 MinerU API - python-dotenv:环境变量管理

1.2 准备 API 密钥  在使用 DeepSeek 和 MinerU 之前,我们需要获取并配置 API 密钥。

  1. DeepSeek API Key:访问 DeepSeek 开放平台,注册账号后获取 API Key;
  2. MinerU API Key:访问 MinerU 官网,需要先进行API申请,然后创建 Token 即可。

当然,除了MinerU,我们还可以使用PaddleOCR-VL、DeepSeek-OCR等其他解析方案,以上三种解析方案均有本地部署版本,大家可以找到助教老师领取资料:

MinerU是一个非常典型的基于管道的解决方案 (Pipeline-based solution) ,并且是一个开源文档解析项目,一共四个核心组件,通过Pipeline的设计无缝衔接,实现比较高效、准确的文档解析。如下图所示:(下图来源官方论文:https://arxiv.org/pdf/2409.18839v1)

MinerU的主要工作流程分为以下几个阶段: 1. 输入:接收PDF 格式文本,可以是简单的纯文本,也可以是包含双列文本、公式、表格或图等多模态PDF文件; 2. 文档预处理(Document Preprocessing):检查语言、页面大小、文件是否被扫描以及加密状态; 3. 内容解析(Content Parsing):

MinerU 提供了在线Demo 页面,我们可以直接线进行测试。试用地址:https://opendatalab.com/OpenSourceTools/Extractor/PDF/

同时,MinerU 项目于2024年07月05日首次开源,底层主要是集成 PDF-Extract-Kit 开源项目做PDF的内容提取,PDF-Extract-Kit同样是一个开源项目:https://github.com/opendatalab/PDF-Extract-Kit

PDF-Extract-Kit这个项目主要针对的是PDF文档的内容提取,通过集成众多SOTA模型对PDF文件实现高质量的内容提取,其中应用到的模型主要包括: PDF-Extract-Kit 应用的模型类型 | 模型类型 | 模型名称 | GitHub 链接 | 模型下载链接 | 任务描述 | | --- | --- | --- | --- | --- | | 布局检测模型 | LayoutLMv3 / DocLayout-YOLO | GitHub / GitHub | 模型下载 / 模型下载 | 定位文档中不同元素位置:包含图像、表格、文本、标题、公式等 | | 公式检测模型 | YOLO | GitHub | 模型下载 | 定位文档中公式位置:包含行内公式和行间公式 | | 公式识别模型 | UniMERNet | GitHub | 模型下载 | 识别公式图像为latex源码 | | 表格识别模型 | StructEqTable | GitHub | 模型下载 | 识别表格图像为对应源码(Latex/HTML/Markdown) | | OCR模型 | PaddleOCR | GitHub | 模型下载 | 提取图像中的文本内容(包括定位和识别) | MinerU与PDF-Extract-Kit的关系是:MinerU 结合PDF-Extract-Kit输出的高质量预测结果,进行了专门的工程优化,使得文档内容提取更加便捷高效,处理底层原理的优化细节外,主要提升点在以下几点:

## 方式一:直接在代码中配置(仅用于学习,生产环境不推荐)# DEEPSEEK_API_KEY = "your-deepseek-api-key-here"# MINERU_API_KEY = "your-mineru-api-key-here"# 方式二:使用环境变量(推荐)import osfrom dotenv import load_dotenv# 加载 .env 文件中的环境变量load_dotenv(override=True)DEEPSEEK_API_KEY = os.getenv("DEEPSEEK_API_KEY")MINERU_API_KEY = os.getenv("MINERU_API_KEY")# 验证配置print(f"DeepSeek API Key 已配置: {DEEPSEEK_API_KEY[:10]}")print(f"MinerU API Key 已配置: {MINERU_API_KEY[:10]}")
DeepSeek API Key 已配置: sk-04a9c72MinerU API Key 已配置: eyJ0eXBlIj

如果可以正常显示DeepSeek API Key 和 MinerU API Key的前10位,说明环境变量加载成功。

  1. 使用 MinerU 解析 PDF

MinerU 在线API的工作流程如下:


1. 请求上传 URL ───▶ 2. 上传 PDF ───▶ 3. 轮询解析状态 ───▶ 4. 下载解析结果

大家可以在MinerU的官网看到详细的API接口文档:

下面我们来实现一个MinerU 客户端:

import httpximport asyncioimport timeimport zipfileimport ioimport jsonfrom pathlib import Pathasync def parse_pdf_with_mineru(pdf_path: str, api_key: str) -> list[dict]: """ 使用 MinerU API 解析 PDF 文档。 参数: pdf_path: PDF 文件路径 api_key: MinerU API 密钥 返回: 解析后的段落列表 """ base_url = "https://mineru.net" file_path = Path(pdf_path) file_name = file_path.name headers = { "Authorization": f"Bearer {api_key}", "Content-Type": "application/json", } async with httpx.AsyncClient(timeout=300) as client: # 步骤1:请求预签名上传 URL print("步骤1:请求上传 URL...") resp = await client.post( f"{base_url}/api/v4/file-urls/batch", headers=headers, json={ "files": [{"name": file_name, "data_id": file_name}], "model_version": "vlm", # 使用视觉语言模型 } ) resp.raise_for_status() data = resp.json()["data"] batch_id = data["batch_id"] upload_url = data["file_urls"][0] print(f"获取到 batch_id: {batch_id}") # 步骤2:上传 PDF 文件 print("步骤2:上传 PDF 文件...") with open(pdf_path, "rb") as f: await client.put(upload_url, content=f.read()) print("上传完成") # 步骤3:轮询等待解析完成 print("步骤3:等待解析完成...") max_wait = 300 # 最多等待5分钟 start_time = time.time() while True: resp = await client.get( f"{base_url}/api/v4/extract-results/batch/{batch_id}", headers={"Authorization": f"Bearer {api_key}"} ) result = resp.json()["data"]["extract_result"][0] if result["state"] == "done": full_zip_url = result["full_zip_url"] print("解析完成") break elif result["state"] == "failed": raise RuntimeError(f"解析失败: {result.get('err_msg')}") if time.time() - start_time > max_wait: raise TimeoutError("解析超时") await asyncio.sleep(2) # 每2秒检查一次 # 步骤4:下载并解析结果 print("步骤4:下载解析结果...") resp = await client.get(full_zip_url) zip_bytes = resp.content # 解压并提取 JSON with zipfile.ZipFile(io.BytesIO(zip_bytes)) as zf: json_files = [n for n in zf.namelist() if n.endswith(".json")] if not json_files: raise RuntimeError("未找到解析结果") with zf.open(json_files[0]) as f: content = json.loads(f.read().decode("utf-8")) print("下载完成") # 步骤5:提取段落文本 paragraphs = extract_paragraphs(content) print(f"共提取了 {len(paragraphs)} 个段落") return paragraphs

上面的代码实现了与 MinerU API 的完整交互流程。接下来,我们需要一个辅助函数来从 MinerU 返回的 JSON 中提取段落文本:

def extract_paragraphs(content) -> list[dict]: """ 从 MinerU 解析结果中提取段落文本。 MinerU 返回的 JSON 结构可能有多种格式,这个函数会尝试兼容不同格式。 """ paragraphs = [] # 情况1:content 是列表(每个元素是一个文本块) if isinstance(content, list): for item in content: if isinstance(item, dict): text = item.get("text") or item.get("content") or "" if text.strip(): paragraphs.append({ "content": text.strip(), "page_num": item.get("page_idx", 0) + 1, "bbox": item.get("bbox"), }) return paragraphs # 情况2:content 是字典,包含 pages 字段 if isinstance(content, dict): pages = content.get("pages") or [] for page in pages: page_num = page.get("page", 1) blocks = page.get("paragraphs") or page.get("blocks") or [] for block in blocks: text = block.get("text") or block.get("content") or "" if text.strip(): paragraphs.append({ "content": text.strip(), "page_num": page_num, "bbox": block.get("bbox"), }) return paragraphs# 测试用的示例数据sample_paragraphs = [ {"content": "本公司承诺绝对保证产品质量,必须满足所有客户需求。", "page_num": 1}, {"content": "根据市场调研,我们的产品销量将一定达到预期目标。", "page_num": 1}, {"content": "公司简介:我们是一家专注于人工智能领域的科技公司。", "page_num": 2}, {"content": "团队介绍:我们拥有一只经验丰富的研发团队。", "page_num": 2}, ]print("示例段落数据:")for i, p in enumerate(sample_paragraphs): print(f" [{i}] 第{p['page_num']}页: {p['content'][:30]}...")
示例段落数据: [0] 第1页: 本公司承诺绝对保证产品质量,必须满足所有客户需求。... [1] 第1页: 根据市场调研,我们的产品销量将一定达到预期目标。... [2] 第2页: 公司简介:我们是一家专注于人工智能领域的科技公司。... [3] 第2页: 团队介绍:我们拥有一只经验丰富的研发团队。...

进行真实PDF解析测试:

## 1. 本地 PDF 路径(改成你自己的)pdf_path = "./data/LangChain v1.1 文档审核类Agent开发实战.pdf"# 2. MinerU API Key(推荐走环境变量)api_key = os.environ.get("MINERU_API_KEY")if not api_key: raise RuntimeError("请先设置环境变量 MINERU_API_KEY")# 3. 调用解析函数paragraphs = await parse_pdf_with_mineru(pdf_path, api_key)# 4. 打印结果print("\n====== 解析结果 ======")for i, p in enumerate(paragraphs): print(f"[{i}] 第{p['page_num']}页: {p['content'][:80]}")
步骤1:请求上传 URL...获取到 batch_id: b714c6cb-c9dc-47c2-97eb-9b5a104404ce步骤2:上传 PDF 文件...上传完成步骤3:等待解析完成...解析完成步骤4:下载解析结果...下载完成共提取了 695 个段落====== 解析结果 ======[0] 第1页: LangChain v1.0 文档审核类Agent开发实战[1] 第1页: 从技术选型到产品落地[2] 第1页: 本期公开课,我们将深入探索基于大语言模型的文档审核Agent技术方案。[3] 第1页: 文档审核类Agent系统功能速览[4] 第1页: 核心功能一:支持在线上传财务类票据,自动实现数据精准提取与审核功能;[5] 第2页: $\leftarrow$ 返回[6] 第2页: 审查结果 - 票据审查[7] 第2页: 导出报告[8] 第2页: 生成PDF[9] 第2页: 1[10] 第2页: 十审查项[11] 第2页: 1全项[12] 第2页: 0[13] 第2页: 警告项[14] 第2页: 3[15] 第2页: 需审查项[16] 第2页: 筛选:[17] 第2页: 代理名称:[18] 第2页: 审造[19] 第2页: 问题数量[20] 第2页: 执行时间[21] 第2页: 佳[22] 第2页: 完整性校验Agent[23] 第2页: 需要审查[24] 第2页: $\langle \widehat{\mathbb{C}}\rangle$ 发现[25] 第2页: 0.00s[26] 第2页: 字段[收款人]缺失[27] 第2页: 格式校验Agent[28] 第2页: 需要审查[29] 第2页: $\langle \widehat{\mathbf{x}}\rangle$ 发现[30] 第2页: 0.00s[31] 第2页: 发票代码格式正确:发票号码格式不正确:购买方纳税人识别号格式正确:销售方纳税人识别号格式正确...[32] 第2页: 计算校验Agent[33] 第2页: $100\%$ 合格[34] 第2页: 3个提示[35] 第2页: 0.00s[36] 第2页: 价税合计计算正确:5785.38*347.12=6132.50;行项目金额合计正确:¥[37] 第2页: 业务规则校验Agent[38] 第2页: 需要查询[39] 第2页: $⑥$ 发现[40] 第2页: 0.00s[41] 第2页: 增值税专用发票必须有收款人[42] 第2页: (1)[43] 第2页: 审查说明[44] 第2页: 核心功能二:支持在线批量上传PDF法务合同文件,自动解析、分块,并能够自定义审核规则,自主完成内容审核及输出审核报告;[45] 第2页: #[46] 第2页: ① 历史记录[47] 第2页: 图[48] 第2页: 解除劳动合同通知书[49] 第2页: 解除、终止劳动合同协议书[50] 第2页: 1[51] 第2页: 1[52] 第3页: 一、文档审核类AI成熟落地产品介绍[53] 第3页: 首先看一组数据,如下论文中是对法律大模型与传统法律合同审查员、初级律师和法律流程外包商进行了开创性的比较,并深入剖析了大模型在合同审查的准确性、速度和成本效益方[54] 第3页: Better Bill GPT: Comparing Large Language Models against Legal Invoice Reviewers[55] 第3页: NICK WHITEHOUSE, NICOLE LINCOLN, STEPHANIE YIU, LIZZIE CATTerson, RIVINDU PERERA[56] 第3页: Legal invoice review is a costly, inconsistent, and time-consuming process, trad[57] 第3页: 论文地址:https://arxiv.org/pdf/2401.16212[58] 第3页: 随着大模型能力的提升,将其作为智能代理用于专业文档的合规性审核已经从理论变为现实,并且在多个行业中展现出了惊人的效率提升。[59] 第3页: 文档合规审核指的是根据法律法规、行业规范或企业内部规则,对各种专业文件进行内容和格式上的检查,以发现潜在的违规或缺陷之处。典型场景包括:合同文档的法律合规审核、[60] 第3页: - 阿里的通义法睿:可以用于快速识别合同潜在风险,并提供专业的风险评估和修改建议。体验地址:https://tongyi.aliyun.com/farui/re[61] 第3页: - 百度的财务、医疗、教育票据OCR识别及自动审查:https://ai.baidu.com/tech/ocr/receipes/vat/invoice[62] 第4页: 全字段识别[63] 第4页: 支持对账银发票、专票、发票、区块链发票、全科目发票全部关键字段的结构化识别,能够满足财税报销场景中对任意字段的识别需求[64] 第4页: □□ 二维码识别校验[65] 第4页: 识别画面左上角的二维码,获取发送代码、号码、金额、开票日期、检票码五个数字信息,与识别的对应字段信息进行匹配校验,保证更识别的正确判断。[66] 第4页: 诸如此类的文档合规审核Agent是指基于大语言模型构建的智能代理系统,能够根据法律法规、行业规范或企业内部规则,自动对专业文件进行内容和格式上的检查,发现潜在的[67] 第4页: 文档审核Agent核心应用场景[68] 第4页: 之所以能够实现上述复杂工作流程的原因在于基于大模型构建而成的Agent具备自主决策和工具调用能力:[69] 第4页: 1. 自主推理:不只是执行预设规则,而是能理解文档语义、推理条款间的逻辑关系[70] 第4页: 功能介绍[71] 第5页: 举个例子:审核一份采购合同时,Agent会先提取关键信息(供应商、金额、交付日期),然后检索公司采购政策,再核对预算系统中的额度,最后综合判断是否合规。这整个过[72] 第5页: 论文地址:https://arxiv.org/pdf/2501.09136[73] 第5页: 在合同、票据/收据、长篇公文等场景中,“大模型 + 工具调用 + 外部知识检索 + 规划/反思(Agentic模式)”能把抽取、核对与基于证据的判断串成多步流程[74] 第5页: 同样,针对上图中的文档审核类的实现方案,如果进一步拆分则可以拆解为如下三大核心技术模块:[75] 第5页: 文档解析模块[76] 第5页: AI Agent 模块[77] 第5页: 规则系统模块[78] 第5页: 而如果再进一步拆解,则如下图所示:[79] 第6页: 其中:[80] 第6页: 所以一个相对比较健全的文档审核类Agent的实现,不仅需要我们掌握Agent及RAG的底层技术原理,还需要我们掌握多模态大模型、多Agent协作、Prompt工[81] 第6页: 此外,对于文档的精准解析是文档审核类Agent落地的关键,也主要分为OCR和VLM两条实现链路,通过传统OCR +规则的方法逐步转到现在基于VLM-based方[82] 第6页: 因此,本期公开课我们就从简到难,从基础的票据审核开始,逐步深入到更为复杂的合同审核,给大家全面讲解不同的解析和审核Agent构建思路,以及如何将这些方法应用到实[83] 第7页: 二、多模态大模型搭建票据审核Agent[84] 第7页: 我们先从较为简单的需求场景开始,即票据类审核方向。财务部门需要审核各种票据和发票,确保其内容完整、真假有效,并符合财务规定(例如发票抬头、税号、金额计算正确,报[85] 第7页: 一般来说,人工在处理票据的完整审核流程包括:[86] 第7页: 如果我们做的合规性检查输入比较简单,且规范都是统一的,比如票据类,此类的审核规则都是比较规范的,我们只需要定制化的提取出某些数值,那么这类场景是非常适合直接使用[87] 第7页: 通过结合多模态大模型和多Agent协作技术,实现发票审核的智能化:[88] 第7页: 我们就可以非常迅速的确定出如下方案来实现票据类审核Agent的技术架构方案:[89] 第8页: 接下来我们就使用LangChain框架来搭建这个完整的票据审核Agent系统。[90] 第8页: - Step 1. 安装环境依赖[91] 第8页: 使用LangChain1.0作为核心Agent开发框架,需要预先安装如下依赖包:[92] 第8页: 安装必要的依赖包[93] 第8页: - Step 2. 配置 API Key[94] 第8页: 接下来我们需要准备一个多模态大模型,我们使用阿里云百炼的Qwen3-vl-plus模型。注册地址:https://baiiianconsole.aliyun.c[95] 第8页: 设置APIKey(请替换为你的实际Key)[96] 第8页: API Key 配置完成[97] 第9页: - Step 3. 导入必要的库[98] 第9页: 导入项目所需的核心库:[99] 第9页: 导入完成[100] 第9页: - Step 4. 发票信息提取模块[101] 第9页: 阶段的核心任务是:从发票图像或OCR数据中提取结构化的JSON数据。使用Pydantic v2定义发票的数据模型。Pydantic提供了强大的数据验证功能,可用[102] 第10页: 添加了row字段自动类型转换[103] 第10页: 测试数据: *广告制作*广告费, 金额: ¥94,339.62, 税率: 6.0%[104] 第10页: 行项目就是发票里逐条计费的“最小可核查单元”,包含名称、数量、单价、金额、税率/税额等。清晰的行项目能提高透明度、减少争议与拒付风险,这是发票开具与收款的基本要[105] 第10页: 接下来再定义完整的发票模型,给多模态大模型一个“完整的发票模型(Invoice)”,是在抽取 $\rightarrow$ 校验 $\rightarrow$[106] 第11页: Invoice 模型定义完成[107] 第11页: 包含23个字段[108] 第11页: 自动验证日期格式[109] 第11页: 支持导出为dict/json[110] 第11页: - Step 5. 初始化多模态大模型[111] 第11页: 使用LangChain接入多模态大模型。多模态模型可以同时处理图像和文本输入。[112] 第12页: 多模态大模型初始化完成[113] 第12页: - Step 6. 如何传入问题和图像[114] 第12页: 多模态模型的输入包含两部分:文本提示词 + 图像数据。我们需要将图像编码为 base64 格式。[115] 第12页: extraction_prompt = '''你是专业的中国发票识别助手。请仔细识别图片中的增值税发票,提取所有信息并以JSON格式返回。[116] 第12页: **必须提取的字段:**[117] 第12页: **重要规则:**[118] 第13页: 提示词构建完成[119] 第13页: 提示词构建完成,接下来我们读取图像并编码为 base64。[120] 第13页: 图像编码完成,base64 长度:362616 字符[121] 第13页: 图像编码完成,接下来我们构建多模态消息。[122] 第14页: - Step 7. 如何调用模型并做结构化输出[123] 第14页: 调用多模态模型后,我们需要从响应中提取JSON数据,并使用Pydantic模型进行验证。[124] 第14页: - Step 8. 完整的提取流程[125] 第14页: 最后,我们定义一个完整的提取流程,将上述步骤串联起来。[126] 第15页: 1. 读取并编码图像[127] 第15页: 2. 构建多模态消息[128] 第15页: 3. 调用多模态大模型[129] 第15页: 4. 提取 JSON 并验证[130] 第15页: 完整提取流程定义完成[131] 第15页: - Step 9. 运行测试[132] 第15页: 以上代码构建完成后,接下来便可以实际进行运行测试了:[133] 第15页: 如果你有发票图像,可以运行以下代码:[134] 第15页: 正在提取发票信息...[135] 第15页: 发票信息提取完成[136] 第15页: 发票代码:3100153130[137] 第15页: 发票号码:14641426[138] 第15页: 价税合计: ¥100,000.00[139] 第15页: 如果有发票图像,可以运行以下代码:[140] 第16页: 正在提取发票信息...[141] 第16页: 发票信息提取完成[142] 第16页: 做到这里,其实我们就已经完成了一个“发票识别 Agent”,可以识别发票的结构化数据了。如下所示:[143] 第16页: 但是,我们还需要对识别出来的发票数据进行校验,以确保数据的准确性。所以我们需要进一步设计一个“发票校验 Agent”。这个阶段是整个系统的核心创新点,我们会使用[144] 第16页: 多Agent协作校验系统的优势[145] 第17页: - Step 10:定义校验结果数据模型[146] 第17页: 同样,我们定义校验结果数据模型,用于存储每个Agent的校验结果。[147] 第18页: 校验结果数据模型定义完成[148] 第18页: - Step 11: 完整性校验 Agent[149] 第18页: 该 Agent 主要检查发票的必填字段是否完整。[150] 第18页: 建议填写的字段[151] 第18页: 检查必填字段[152] 第18页: 检查是否为空[153] 第19页: 完整性校验 Agent 定义完成[154] 第19页: 检查13个必填字段[155] 第19页: 检查6个建议字段[156] 第19页: - Step 12: 格式校验 Agent[157] 第19页: 进一步地,当第一阶段正确输出验证发票代码、号码、税号等字段后,我们还要校验其识别的格式是否正确。[158] 第19页: def validate_format(invoice_data: dict) -> AgentValidationReport:[159] 第19页: ""格式校验 Agent""[160] 第19页: start_time = time.time()[161] 第19页: results =  第19页: 1. 发票代码:10位数字[163] 第19页: invoice_code = invoice_data.get('invoice_code', '')[164] 第19页: if invoice_code and not re.match(r'^\d{10}$$, str(invoice_code)):[165] 第21页: 格式校验 Agent 定义完成[166] 第21页: - Step 13: 计算校验 Agent[167] 第21页: 接下来进一步验证发票金额、税额的计算是否正确。[168] 第23页: - Step 14: 业务规则校验 Agent[169] 第23页: 最后,我们可以通过定制化的一些业务规则来精细化校验,比如我们这里以验证税率、发票类型等业务逻辑为例进行说明。[170] 第24页: )[171] 第24页: 业务规则校验 Agent 定义完成[172] 第24页: - Step 15: Orchestrator: 编排所有 Agent[173] 第24页: 最终,我们定义一个协调器负责调用所有 Agent 并汇总结果。[174] 第25页: 2. 汇总结果[175] 第25页: 3. 确定总体状态[176] 第25页: 4. 生成报告[177] 第25页: Orchestrator 编排器定义完成[178] 第25页: - Step 16:多代理校验系统运行测试[179] 第25页: 最后,我们使用真实的发票数据进行校验,并打印校验报告。[180] 第26页: 将之前提取的 invoice 对象转换为字典[181] 第26页: 执行完整校验[182] 第26页: 开始发票校验...[183] 第26页: 校验完成:PASS[184] 第26页: def print_validation_report.report:InvoiceValidationReport):[185] 第27页: 发票校验报告[186] 第27页: 发票编号:4200162130_00998959[187] 第27页: 校验时间:2025-11-28 11:06:10[188] 第27页: 总体状态:PASS[189] 第27页: 总结:所有校验通过,发票数据正常[190] 第27页: 统计信息:[191] 第28页: 【完整性校验Agent】(耗时:0.000秒)[192] 第28页: 无问题[193] 第28页: 【格式校验Agent】(耗时:0.001秒)[194] 第28页: 无问题[195] 第28页: 【计算校验Agent】(耗时:0.000秒)[196] 第28页: 无问题[197] 第28页: 【业务规则校验Agent】(耗时:0.000秒)[198] 第28页: 无问题[199] 第28页: 我们这里可以测试一下有问题的票据:[200] 第28页: 正在提取发票信息...[201] 第28页: 发票信息提取完成[202] 第28页: 开始发票校验...[203] 第29页: 校验完成:FAIL[204] 第29页: 发票校验报告[205] 第29页: 发票编号:1100154130_00772[206] 第29页: 校验时间:2025-11-18 17:00:15[207] 第29页: 总体状态:FAIL[208] 第29页: 总结:发现4个错误,0个警告,需要修正后才能通过[209] 第29页: 统计信息:[210] 第29页: 【完整性校验Agent】(耗时:0.000秒)[211] 第29页: [X [ERROR] 必填字段 '收款人' 缺失或为空[212] 第29页: 字段:payee[213] 第29页: 期望:非空值[214] 第29页: 实际:空[215] 第29页: 建议:请补充 收款人 信息[216] 第29页: 【格式校验Agent】(耗时:0.000秒)[217] 第29页: [X [ERROR] 发票号码格式错误][218] 第29页: 字段:invoice_number[219] 第29页: 期望:8位数字[220] 第29页: 实际:00772[221] 第29页: 建议:发票号码必须是8位纯数字,如:14641426[222] 第29页: [X [ERROR] 开票日期格式错误[223] 第29页: 字段:issue_date[224] 第29页: 期望:YYYY-MM-DD[225] 第29页: 实际:2016年9月[226] 第29页: 建议:日期格式应为:2016-06-02[227] 第29页: 【计算校验Agent】(耗时:0.000秒)[228] 第29页: [X [ERROR] 第1行税额计算错误][229] 第29页: 字段:line_items[0].tax_amount[230] 第29页: 期望: ¥347.12[231] 第29页: 实际: ¥61.00[232] 第29页: 建议:税额应该 $=$ 金额(5785.38) $\times$ 税率 $(6.0\%) = 347.12$[233] 第30页: 【业务规则校验Agent】(耗时:0.000秒)[234] 第30页: 无问题[235] 第30页: 导出详细的校验报告[236] 第30页: 校验报告已导出到 validation_report.json[237] 第30页: 导出提取的发票数据[238] 第30页: 发票数据已导出到 invoiceextracted.json[239] 第30页: 三、基于OCR搭建法务合同审核Agent[240] 第30页: 接下里我们再看第二个场景。在特定类别的文档需要遵循严格的格式与内容要求,例如政府或企业的招投标书(RFP响应文档)、各类行政公文、行业报告等。这些文档通常有明确[241] 第30页: 为什么合同、标书审核更适合OCR+RAG方案而非VLM方案?这一选择基于以下几个核心考量:[242] 第30页: 文档长度与Token成本[243] 第30页: 合同和标书通常是多页长文档,动辄数十页甚至上百页。VLM在处理此类文档时面临严重的token限制问题。以一份20页的劳动合同为例,如果将整个PDF作为图像输入V[244] 第31页: - 精确坐标定位与可追溯性[245] 第31页: 法务合同审核的核心需求之一是精确定位问题条款的位置,以便法务人员快速查阅和修改。OCR方案(如MinerU)在解析PDF时会返回每个文本块的精确坐标信息(bbo[246] 第31页: 智能切分与上下文控制[247] 第31页: OCR方案可以在提取文本后进行智能切分(按标题层级、段落语义切分),每个片段控制在800 tokens以内,既保持了上下文完整性,又能并发处理以提升效率。更重要[248] 第31页: - 表格与复杂格式的处理[249] 第31页: 合同中常包含表格(如付款计划表、违约金计算表)和复杂格式(如条款编号、多级标题)。OCR方案可以将表格解析为结构化数据(JSON或Markdown表格),便于后[250] 第31页: 票据的人工审核标准流程[251] 第32页: 综上,对于合同、标书等长文档审核场景,OCR+RAG方案在成本、精度、可追溯性、灵活性等多个维度均优于VLM方案。VLM更适合短文档、强视觉依赖的场景(如票据识[252] 第32页: 本课程将带你从零开始实现一个完整的文档审核系统。该系统的核心特点是保留PDF文档的坐标信息,实现可追溯、可定位的文档审核和修改。[253] 第32页: PDF文档 $\rightarrow$ MinerU解析 $\rightarrow$ 提取文本 $+$ 坐标 $\rightarrow$ 智能切[254] 第32页: 如下图所示:[255] 第32页: 本课程将带你从零开始实现一个完整的文档审核系统。该系统的核心特点是保留PDF文档的坐标信息,实现可追溯、可定位的文档审核和修改。[256] 第32页: - Step 1: 环境准备[257] 第32页: 首先安装必要的依赖包。[258] 第32页: 安装核心依赖[259] 第33页: - [33mWARNING: Running pip as the 'root' user can result in broken permissions a[260] 第33页: - Step 2: 配置 API Key 和 MinerU 服务地址[261] 第33页: 配置APIKey和MinerU服务地址import os[262] 第33页: API 配置完成[263] 第33页: 其中关于MinerU、PaddleOCR-VL和DeepSeek-OCR的详细介绍以及如何在本地通过vLLM框架启动解析服务,大家可以学习我的往期公开课视频:从[264] 第34页: - Step 3: PDF 解析与坐标提取[265] 第34页: 这是整个系统的核心基础。我们使用MinerU将PDF转换为带坐标的JSON格式。[266] 第34页: MinerU 是一个 PDF 解析工具,它不仅提取文本,还保留每个文本块在 PDF 中的精确位置(坐标)。[267] 第34页: *输入:PDF文件[268] 第34页: 输出\*\*:JSON文件,包含:[269] 第34页: 其中坐标格式示例:[270] 第35页: PDF 解析函数已定义[271] 第35页: - Step 4: 加载带坐标的 JSON 文档[272] 第36页: 解析 MinerU 生成的 JSON,提取文本和坐标信息。[273] 第37页: 根据 $< $劳动合同法 $> $ 相关规定,公司依法解除此前您与公司订立的劳动合同(合同期限:[274] 第37页: 年月日至年月日)。解除您的理由是:[275] 第37页: (1)过失性解除[276] 第37页: 口在试用期内证明不符合录用条件的;口严重违反公司依法制定的规章制度的;[277] 第37页: 口严重失职,营私舞弊,给用人单位造成重大损害的;[278] 第37页: 口以欺诈、胁迫的手段使用人单位违背真实意思签订劳动合同致使劳动合同无效的;[279] 第37页: 口员工同时与其他用人单位建立劳动关系,对完成本单位的工作任务造成严重影响,或者经用人单位提出,拒不改正的; 口被依法追究刑事责任的;[280] 第37页: (2)非过失性解除[281] 第37页: - Step 5: 带坐标的文档切分[282] 第37页: 将长文档切分成小片段,同时为每个片段分配对应的坐标信息。切分策略为:[283] 第37页: 关键点: 坐标信息让我们能够在原PDF中精确定位每个审核问题的位置。[284] 第37页: # MinerU 返回的原始数据:按照行、段落、表格单元格等自然单位切分的。[285] 第38页: 重新切分(chunk_size=800):[286] 第38页: chunk 1 (831 tokens):[287] 第38页: 内容:"解除劳动合同通知书\n\n先生/小姐\n\n根据<<劳动合同法>>..."[288] 第38页: bbox_list: [[289] 第38页: {bbox: [359, 95, 638, 120], text: "解除劳动合同通知书"},[290] 第38页: {bbox: [199, 164, 373, 181], text: "先生/小姐"},[291] 第38页: {bbox: [170, 200, 847, 255], text: "根据..."}[292] 第38页: // ... 共86个原始文本块的坐标[293] 第38页: ][294] 第38页: # 核心逻辑:一个Chunk $\rightarrow$ 多个BBox:每个原始文本块都有自己精确的坐标[295] 第38页: 后续的审核逻辑:[296] 第38页: issue $=$ {[297] 第38页: "original": "年月日至年月日", #有问题的原文[298] 第38页: "description": "日期填写不完整"[299] 第38页: }[300] 第38页: 在chunk的bbox_list中查找匹配的坐标[301] 第38页: for bbox_item in chunk['bbox_list']:[302] 第38页: if "年月日至年月日" in bounding_item['text']:[303] 第38页: problem_bbox =_bbox_item['bbox'] #找到了![304] 第38页: problem_page = bbox_item['pageidx'][305] 第38页: # 可以在PDF上精确高亮这个位置[306] 第38页: import json[307] 第38页: import re[308] 第38页: from typing import List, Dict, Any[309] 第38页: import re[310] 第38页: import json[311] 第38页: from typing import Dict, Any, List[312] 第38页: def clean_ocrerrors(text: str) -> str:[313] 第38页: ""清理常见的OCR识别错误""[314] 第38页: if not text:[315] 第38页: return text[316] 第38页: 修复书名号识别错误(各种变体)[317] 第38页: text = re.sub(r'\$<\s*<\s*\$\s*(.+?)\s*\$\> \s*>\$', r' \{1\}', text)[318] 第38页: text = re.sub(r'\$<\s*<\s*(.+?)\s*>\s*>\$', r' \{1\}', text)[319] 第38页: text = re.sub(r'\$< <\s*(.+?)\s*> >\s*\$\$, r' \{1\}', text)[320] 第38页: 修复LaTex符号[321] 第38页: text = re.sub(r'\$\17\s*\$\\s*(.+?)\s*\$\mathbf{\mathbf{m}}athrm\s*\{\s*\>\s*\}\[322] 第38页: text)[323] 第38页: text = re.sub(r'\$<\s*<\s*\$(.+?)\$\mathfrak{m}athrm\s*\{\{\s*\>\s*\}\{\s*\>\s*\[324] 第38页: 清理多余空格[325] 第38页: text = re.sub(r'\s+\', ' ', text).strip()[326] 第38页: return text[327] 第39页: def load_json_with_coordinatesjson_path: str) -> Dict[str, Any]:[328] 第39页: ````````````````````````````````````````````[329] 第39页: with openjson_path,'r',encoding $\equiv$ 'utf-8')asf: data $=$ json.load(f)[330] 第39页: results = data['results'][331] 第39页: doc_name = list(results.keys())[0][332] 第39页: doc_result = results[doc_name][333] 第39页: 解析 content_list[334] 第39页: content_list_str = doc_result.get('content_list', [''])[335] 第39页: if isinstance(content_list_str, str):[336] 第39页: content_list = json.dumps(content_list_str)[337] 第39页: else:[338] 第39页: content_list = content_list_str[339] 第39页: 清理 md_content 中的OCR错误[340] 第39页: md_content = doc_result.get('md_content', '')[341] 第39页: md_content = clean_ocr.errors(md_content)[342] 第39页: 清理content_list中的文本[343] 第39页: for item in content_list:[344] 第39页: if 'text' in item and item['text']:[345] 第39页: item['text'] = cl…
— 以上为试看内容(约 40%),开通会员后阅读全文 —

原文出处:https://www.53ai.com/news/langchain/2025122169124.html