FDE 企业 AI 落地与交付 · 知识检索与问答问题 · 2026-07-15

RAG 最难的不是向量库,而是知识链路

别只盯着向量库,RAG的成败在于知识链路的完整构建。这篇文章为你揭示从文档处理到召回重排的工程实践核心。

核心内容:

  1. 文档解析、切分与元数据处理的常见陷阱
  2. 向量检索与关键词检索相结合的召回链路设计
  3. 通过Rerank、上下文压缩与持续评测保障系统稳定

很多团队第一次做 RAG,会把注意力放在向量数据库上。

选 Milvus,还是 pgvector?

用 HNSW,还是 IVFFLAT?

Embedding 模型换哪个?

这些问题当然重要。但如果一个 RAG 系统答非所问,真正的问题常常不在向量库。

更常见的是:文档没处理好,Chunk 切坏了,元数据缺失,召回链路单薄,重排没有做,旧版本还在索引里,评测只能靠感觉。

这篇文章想讲的就是:

RAG 最难的不是向量库,而是知识链路。

RAG 最难的不是向量库,而是知识链路

先看一个很普通的场景。

公司做了一个内部知识库问答。

第一版很快上线:把文档切块,做 Embedding,写入向量库,用户提问时召回 Top-K,再把结果塞给大模型。

Demo 里效果不错。

但一到真实使用,问题就来了:

这时候很多人的第一反应是换模型、换向量库、换 Embedding。

但更应该先问一句:

这条知识链路到底哪一段断了?

一、RAG 不是“把文档丢进向量库”

RAG 的概念并不复杂。

模型不知道你的私有知识,所以先从外部知识库里检索相关内容,再把这些内容放进上下文,让模型基于证据回答。

这就是 Retrieval-Augmented Generation。

但工程上,RAG 不是三步:

上传文档,写入向量库,调用模型。

真正的链路更长:

文档进入系统。

解析和清洗。

切分成 Chunk。

生成 Embedding。

写入向量索引和全文索引。

查询时做 Query Rewrite。

向量检索和关键词检索一起召回。

用 Metadata 过滤权限、业务线、版本。

Rerank 候选片段。

压缩和组织上下文。

让模型基于证据回答。

最后还要评测、观测、更新、回滚。

任何一段出问题,最后看起来都像“模型答错了”。

但模型只是最后一个出声的人。

前面如果给它的是残缺、过期、混乱、无关的上下文,它再会说话,也很难稳定答对。

所以学 RAG,第一件事不是背向量数据库列表,而是建立一条知识链路的心智模型。

二、文档处理决定 RAG 的上限

很多 RAG 项目最早翻车,不是在检索算法上,而是在文档进入系统的第一天。

PDF 是双栏排版,解析后阅读顺序乱了。

Word 里有标题层级,切分后全丢了。

Excel 里真正重要的信息在“字段名、取值、约束、备注”的横向关系里,结果被当成普通文本切碎。

扫描件 OCR 把 0 识别成 O。

图片里的流程图没有文字描述。

表格下方那句“仅适用于企业客户”没有和表格一起进入 Chunk。

这些问题不会在向量库控制台里显得很严重。

但它们会直接决定召回质量。

因为检索器只能检索它看见的东西。

如果文档解析阶段已经丢了结构,后面的 Embedding、Hybrid Search、Rerank 都是在残缺材料上补救。

AIGuide 的 RAG 专题里有一个很重要的提醒:RAG 效果上限经常卡在文档处理。

这句话我很认同。

很多团队会花很久比较 Milvus、Qdrant、pgvector,却没有认真看一眼自己的 Chunk 长什么样。

一个最小检查动作是:随机抽 20 个 Chunk,像 code review 一样看。

它有没有标题?

有没有来源?

有没有业务路径?

有没有把条件和结论切开?

有没有把表格行列关系打散?

有没有把一个完整规则拆成两半?

如果这些问题存在,先别急着调模型。

先把知识入口修好。

三、Chunking 不是切字数,而是保留语义边界

Chunking 最容易被低估。

很多实现会先设一个数字,比如 500 tokens,重叠 50 tokens,然后就开始切。

这不是不能用。

固定长度切分是一个够快的 baseline。

但它不理解文档结构。

真实知识不是均匀分布的。

一个 API 字段说明,可能 120 tokens 就是完整单元。

一个制度条款,可能 800 tokens 才能说清适用范围、例外情况和审批路径。

如果只按长度切,很容易出现两类问题。

第一类是切碎。

问题问的是“什么情况下可以退款”,召回到的 Chunk 只有“退款流程第一步”,没有前置条件。

第二类是切脏。

一个 Chunk 里混了三个主题,Embedding 表示变得模糊,召回时什么都像,什么都不准。

更好的策略通常要结合文档结构。

标题、段落、列表、表格、章节路径,都应该参与切分。

对有层级的文档,可以用递归字符切分或按结构切分。

对需要短召回长阅读的内容,可以用 Parent-Child Chunk:小 Chunk 负责召回,父级段落负责提供完整上下文。

对边界容易丢信息的内容,可以做适度 overlap。

但 overlap 不是越大越好。

重叠太多,会制造重复证据,也会增加上下文噪声。

所以 Chunking 的本质不是“切成多大”。

而是保留知识单元的语义边界。

四、向量检索有用,但别只靠向量相似度

向量检索解决的是语义…

— 以上为试看内容(约 40%),开通会员后阅读全文 —

原文出处:https://www.53ai.com/news/RAG/2026071581063.html