从"搭好"到"能用",中间隔着一整套优化RAG(检索增强生成)入门的体验大概是这样的:
一个下午,你就能搭出一套能跑的原型:文档切片 → 调 Embedding API → 扔进向量库 → 接上 LLM,齐活。你会觉得"这不挺简单的吗?"
然后你开始真正用它。搜出来的东西牛头不对马嘴,明明库里有的内容就是找不到,用户问一句它答三句废话,问得稍微抽象一点就开始编。
这不是你的问题。 RAG 的入门门槛确实很低,但"能跑"和"能用"之间,隔着一整套优化管线。
RAG 的本质,不是"让 AI 更聪明",而是让正确的信息在对的时机出现在对的位置。要做到这一点,靠的不是某一个环节的精彩,而是整条链路的配合。
这篇整理了我梳理的 20 种 RAG 优化方案,按一个请求的完整生命周期来拆,从数据怎么入库,到最终怎么把答案吐给用户。
先看一眼全流程
一个完整的 RAG 管线长这样:
``
优化不是说某一个环节做好了就行,它是整条链路上的事。每一个阶段的改进,都在给下一个阶段"减负"。
下面按五个阶段一个个拆。
一、数据入库:检索的"底座",地基打不好后面全白费
这个阶段的目标一句话就能说清楚:让对的文档在对的时候能被找到。 入库时切得乱七八糟,后面检索再强也救不回来。
1. 语义分块:别再按字符数切了
很多入门教程教你"每 500 字切一块"。这就像把一本书每 10 页拆下来订成一册,刚好把完整论证拦腰截断。语义分块的做法是按句子、段落或 Markdown 标题来切,保证每一块是一个完整的逻辑单元。
``
一个完整的句子和一句被腰斩的话,检索效果天差地别。
2. 小块检索,大块喂给 LLM:一个很聪明的折中
把文档切成很小的片段做向量检索(小块精度高),但命中后把它所在的"整段大哥"调出来喂给 LLM。就像一个图书索引:你用关键词查到页码(小块),但真正读的是那一整页的内容(大块)。检索精度和上下文完整性,一个都不丢。
3. 元数据过滤:先粗筛,再细搜
存文档时顺手存上时间、作者、类型这些元数据。检索时先 WHERE 一下("只要 2024 年以后的""只要 Python 相关的"),再做语义匹配。一个简单的条件过滤,就能把搜索范围从百万级缩到千级。省算力,还更准。
4. 摘要索引:让宏观问题先找到大方向
长文档被切碎后,用户问"这本书讲了什么"时,任何一个片段都答不上来。
解决方案:入库前先让 LLM 给每个长文档生成一个全局摘要,单独向量化。宏观问题命中摘要,再通过摘要和详细章节的关联顺藤摸瓜找到细节。先给方向,再给细节。
5. 图增强 RAG(Graph RAG):不只搜"内容",还搜"关系"
把文档里的实体和关系抽取出来存进知识图谱。比如"函数 A 调用了函数 B""类 C 继承自类 D"。
检索时同时查向量库和图数据库。这是目前解决"跨文档逻辑关联"最火的方案。你想知道的不只是"这段话讲了什么",还有"它跟别的东西是什么关系"。
6. 文档反向提问:提前帮文档"写考题"
入库前让 LLM 看着每一段文本,生成 5 个"如果有人要查这段内容,可能会怎么问"。把这些问题和原文绑在一起存入向量库。
相当于提前把所有可能的问法都做好了索引。 用户不管怎么换着花样问,命中率都会大幅提升。
二、检索前:用户的提问,不是最优的查询词
用户提的问题往往是口语化的、简略的、甚至歧义的。直接拿去搜,等于让一个口语问题去碰书面语文档,语义对不上是大概率事件。
7. 查询重写:帮用户把话"翻译"成检索语言
多了一步 LLM 调用,但省去了后续大量的试错。性价比极高。
8. 多路查询:一个问题,五个角度
把用户的问题扩展成 3-5 个不同角度的提问,分别检索,最后合并去重。
一个问法没命中的,另一个问法可能就命中了。用广度换精度。