清华提出NaviRAG:让RAG学会"主动导航",长文问答F1涨4.8分

一句话讲清楚👉🏻 清华、南大、东北大学团队提出 NaviRAG,把文档组织成可导航的层次知识树,让 LLM Agent 像翻书一样"先定位、再觅食",在五大长文问答基准上相比扁平 RAG 全面胜出,F1 最高涨 4.8 分,召回率提升 5.5 个点,且 Token 消耗只是 GraphRAG 的一半不到。


RAG 卡在哪里


打开过一本厚书找答案的人应该都有体会:你不会把整本书切成小纸条撒一地再挨个翻——你会先看目录、再翻章节、然后定位段落。但过去几年的 RAG (检索增强生成) 系统,基本就是在干撒纸条的事。


主流做法把文档切成固定粒度的文本块,建向量索引,查询来了算相似度,取 top-k 喂给大模型。这套流程在简单问答上跑得不错,可一旦遇到跨章节、多跳、条件复杂 的长文档问题就开始掉链子,主要卡点有三个:


•粒度两难:切得太细,片段缺少上下文,模型看不懂;切得太粗,噪声过多,关键证据被淹没。
•被动一次性:查询一次检索一把,拿到什么是什么,信息不够也没法补。
•扁平化:忽略了文档本身天然的层次结构——目录、章节、子节、细节——这些语义关系全被拍扁成了平面。


GraphRAG 、 RAPTOR 、 HippoRAG 这些后继方案做了很多补救,有的建图、有的造树、有的加记忆。但检索本身仍是一次性的被动过程,没有真正模仿人类查阅资料的节奏。



两类典型的复杂长链推理场景:示例查询、检索难点、传统 RAG 的局限,以及 NaviRAG 的应对思路。


清华大学孙茂松教授团队(联合南京大学、东北大学)这次给出了一个新答案:NaviRAG——从被动检索转向主动导航。


从"觅食"到"导航":方法论灵感


NaviRAG 的方法论底子来自认知心理学里的信息觅食理论( Information Foraging Theory , Pirolli & Card, 1999 )。这套理论有一个朴素的观察:人类获取信息不是一次性抓取,而是沿着"信息气味( information scent )"做序列化探索——看到一条线索,顺藤摸瓜,发现信息不足就回头换路径。


把这个直觉搬到 RAG 上,作者提出一个两阶段的 "先定位,再觅食" 检索范式:


1.先定位:用传统向量检索快速圈出一个相关的语义子空间,避免在整个语料里乱撞。
2.再觅食:在这个子空间内,由一个 LLM Agent 沿着预先组织好的层次结构自顶向下导航,每一步决定是"吸收当前节点"还是"继续向下展开"。


这样做的好处很直接:检索的粒度不再是预先固定的,而是随查询需求动态调整——要宽泛背景就停在高层摘要,要具体证据就下钻到叶子节点。


NaviRAG 的整体流程


整个框架拆成两个阶段——离线的知识组织 和在线的导航检索。



NaviRAG 的两阶段框架:离线阶段把文档组织成层次结构(自顶向下的语义路由 + 自底向上的 refusion 与摘要);在线阶段先做语义定位,再在定位到的子树内导航检索。


范式定义


给定文档集合 D 和查询 q ,离线阶段把文档组织成层次结构 H ,在线阶段在 H 上做导航,得到最终上下文集合 C ,然后交给 LLM 生成答案 y 。


上下文集合由三部分组成:


Cvec ∪ Csum ∪ Craw


分别对应初始向量检索片段、中间层摘要 和按需展开的原始文本。三种粒度混合,才能覆盖从概念到证据的不同需求。


知识树是怎么建起来的


NaviRAG 里每一个节点都包含三个字段:


•title:语义标识符,像章节标题一样概括节点内容;
•value:节点关联的实际文本内容;
•summary:跨层访问时的摘要字段,让上层能快速感知下层的语义。


建树的过程分三步:


第一步:搭骨架。 先让 LLM 基于文档生成一份高层语义大纲,形成知识树的初始 H0 。


第二步:往里塞。 把文档切成片段( chunk token size = 512 , overlap 0.2 ),一块一块插入树里。插入不是随便挂的,而是由 LLM 决定这块内容属于哪个节点,可能合并进已有节点,也可能新建子节点。论文给出的核心算法是这样:


输入: 知识树 H, 片段 s_i, 当前路径 p
1. N ← Children(H, p)
2. A ← Select(s_i, N)                    // 选择匹配的子节点
3. if A = ∅ then
4.   H ← CreateNode(H, p, s_i); return H  // 没有匹配,新建节点
5. end if
6. for each node n ∈ A do
7.   if n 是中间节点 then
8.     H ← U(H, s_i, n)                   // 递归下降
9.   else
10.    H ← MergeContent(H, n, s_i)        // 叶节点合并内容
11.    if Len_tokens(n) > τ_text then
12.      H ← SplitNode(H, n)              // 超长则分裂
13.    end if
14.  end if
15. end for
16. if NumberOfNodes(level(p)) > τ_level then
17.   H ← SoftGrouping(H, level(p))       // 同层过多则软聚类
18. end if
19. return H


这里有两个值得注意的控制参数:τ_text 控制叶节点内容长度,超过就分裂;τ_level 控制同一层节点数,超过就触发软聚类( soft grouping ),保持树的平衡性。


第三步:回炉精炼。 塞完所有片段后,做一次 refusion 和 summary——自底向上整理内容、生成各节点摘要,让整棵树的语义表述更加干净一致。


整个过程完全由 LLM 驱动(论文里用的是 Qwen2.5-72B ),嵌入模型用的是 bge-m3 。


导航检索: Agent 怎么"读书"


知识树建好以后,在线检索的流程就像一个 Agent 在读一本有目录的书。


步骤一:向量检索定位候选集。 对查询 q 在所有节点(叶子 + 中间节点的摘要)上做向量检索,拿到 top-k 候选集 R ,再把这些节点映射到它们所在的语义子树 H_sub 。这一步是粗筛,目的是把检索范围从整本书收敛到一两个相关章节。


步骤二:逐层节点选择。 从子树顶层开始,每一层让 LLM 挑选与查询最相关的节点集合 A_t 。


步骤三:节点决策。 对每个选中的节点, Agent 做一个二元决策:π(n) 属于 {absorb, expand}——要么把节点内容吸收进最终上下文,要么继续展开它的子节点。这个决策是迭代进行的, Agent 可以根据已经收集到的信息判断"还缺什么"。


步骤四:混…

— 以上为试看内容(约 40%),开通会员后阅读全文 —