RAG 检索优化策略:从命中率到答案质量的一套工程打法

很多 RAG 项目一开始都像“把文档切块、向量化、Top-K 塞给大模型”。Demo 能跑,线上一问就出问题:用户换个说法检索不到;召回一堆相似片段但真正能回答的没有排到前面;上下文越塞越长,成本上升,答案反而不稳。
真正的优化不是只调 chunk_size,也不是只换 Embedding 模型,而是把检索拆成四层:索引层决定知识怎么存,查询层决定问题怎么转,召回层决定从哪些路径去找,重排序层决定哪些证据最终进入 Prompt。

一、检索决定 RAG 的上限

RAG 的回答质量,第一步不是生成,而是检索。检索没把正确证据找回来,后面再换更强模型、写更长 Prompt,也只是让模型更“会编”。检索能稳定召回准确内容,生成层才有发挥空间。
所以生产级 RAG 的核心不是“多拿一点上下文”,而是“把该拿的拿回来,把不该拿的挡在外面”。这句话看着简单,落到工程里,通常要靠四层组合来完成。

二、四层框架:别零散堆技巧

很多人回答“检索怎么优化”时,会说调 chunk、换 Embedding、加 Rerank。这些都对,但如果不能讲清楚它们分别解决什么问题,线上遇到故障时就会变成乱试参数。
更稳的方式是按层拆:索引层解决知识粒度问题,查询层解决表达对齐问题,召回层解决路径覆盖问题,重排序层解决候选精度问题。

三、索引层:检索用小块,阅读用大块

索引层最容易被误解。很多人觉得 chunk 越小越准,实际上只说对了一半。小块语义更聚焦,确实容易被向量检索命中;但小块给到 LLM 后,常常缺少上下文,模型读不懂前因后果。
大块正好相反。上下文完整,但一个向量里混了太多语义,用户问细节时反而不容易命中。这个矛盾就是索引优化的起点:小块负责被找到,大块负责被读懂。

1. Parent-Child Chunking

把文档切成两套粒度:子 chunk 用来建向量索引,父 chunk 用来提供完整上下文。检索时命中子 chunk,再通过 parent_id 找到父 chunk,把父 chunk 交给 LLM。
这套方案适合客服知识库、制度文档、产品手册、API 文档等结构清晰的场景。关键点是父子块要带版本号和来源信息,否则知识库更新后,很容易出现“子块命中新版本,父块却拿到旧版本”的问题。

2. 摘要索引

有些原文很长、表达很散,直接用原文向量召回会不稳定。这时可以先给章节或段落生成摘要,用摘要向量做索引;命中摘要后,再取原文内容给模型阅读。
摘要索引的好处是语义更集中,缺点是摘要可能丢细节。因此它更适合长报告、论文、会议纪要、年报这类“章节核心意思明确”的材料。

3. 多粒度索引

同一套知识库里,用户问题可能有粗有细。“什么是 RAG”适合章节级召回;“退款到账要几个工作日”适合句子级召回。多粒度索引就是同时保留章节、段落、句子等不同粒度,然后根据 query 类型选择召回层级。

四、查询层:把用户问题翻译成“知识库能听懂的话”

索引建得再好,也挡不住用户随口问。用户说“它为什么这么贵”,知识库里写的是“iPhone 15 Pro Max 定价策略分析”;用户说“咋退”,知识库里写的是“售后申请流程”。意思接近,但表达风格不同,检索就可能漏。
查询优化就是在检索之前,对用户 query 做加工。它不是为了让问题变漂亮,而是为了让 query 在向量空间和关键词空间里更容易命中正确文档。

1. Query Rewrite:处理口语和指代

把含糊、口语化、依赖上下文的问题,改写成独立、明确、可检索的问题。比如多轮对话里用户追问“这个要多久”,系统要结合上文改写成“退款审核通过后多久到账”。

2. Multi-Query:从多个角度撒网

一个问题可能有多种说法。Multi-Query 会生成 3 到 5 个不同角度的问题,分别检索,再合并去重。它的价值是提升召回覆盖率,但要注意保留原始 query,避免改写版本丢失用户的关键细节。

3. HyDE:先生成假设答案,再拿答案去搜

问题是疑问句,文档通常是陈述句。HyD…
— 以上为试看内容(约 40%),开通会员后阅读全文 —