清华提出NaviRAG:让RAG学会"主动导航",长文问答F1涨4.8分
一句话讲清楚👉🏻 清华、南大、东北大学团队提出 NaviRAG,把文档组织成可导航的层次知识树,让 LLM Agent 像翻书一样"先定位、再觅食",在五大长文问答基准上相比扁平 RAG 全面胜出,F1 最高涨 4.8 分,召回率提升 5.5 个点,且 Token 消耗只是 GraphRAG 的一半不到。
RAG 卡在哪里
打开过一本厚书找答案的人应该都有体会:你不会把整本书切成小纸条撒一地再挨个翻——你会先看目录、再翻章节、然后定位段落。但过去几年的 RAG (检索增强生成) 系统,基本就是在干撒纸条的事。
主流做法把文档切成固定粒度的文本块,建向量索引,查询来了算相似度,取 top-k 喂给大模型。这套流程在简单问答上跑得不错,可一旦遇到跨章节、多跳、条件复杂 的长文档问题就开始掉链子,主要卡点有三个:
GraphRAG 、 RAPTOR 、 HippoRAG 这些后继方案做了很多补救,有的建图、有的造树、有的加记忆。但检索本身仍是一次性的被动过程,没有真正模仿人类查阅资料的节奏。
清华大学孙茂松教授团队(联合南京大学、东北大学)这次给出了一个新答案:NaviRAG——从被动检索转向主动导航。
从"觅食"到"导航":方法论灵感
NaviRAG 的方法论底子来自认知心理学里的信息觅食理论( Information Foraging Theory , Pirolli & Card, 1999 )。这套理论有一个朴素的观察:人类获取信息不是一次性抓取,而是沿着"信息气味( information scent )"做序列化探索——看到一条线索,顺藤摸瓜,发现信息不足就回头换路径。
把这个直觉搬到 RAG 上,作者提出一个两阶段的 "先定位,再觅食" 检索范式:
这样做的好处很直接:检索的粒度不再是预先固定的,而是随查询需求动态调整——要宽泛背景就停在高层摘要,要具体证据就下钻到叶子节点。
NaviRAG 的整体流程
整个框架拆成两个阶段——离线的知识组织 和在线的导航检索。
范式定义
给定文档集合 D 和查询 q ,离线阶段把文档组织成层次结构 H ,在线阶段在 H 上做导航,得到最终上下文集合 C ,然后交给 LLM 生成答案 y 。
上下文集合由三部分组成:
分别对应初始向量检索片段、中间层摘要 和按需展开的原始文本。三种粒度混合,才能覆盖从概念到证据的不同需求。
知识树是怎么建起来的
NaviRAG 里每一个节点都包含三个字段:
建树的过程分三步:
第一步:搭骨架。 先让 LLM 基于文档生成一份高层语义大纲,形成知识树的初始 H0 。
第二步:往里塞。 把文档切成片段( chunk token size = 512 , overlap 0.2 ),一块一块插入树里。插入不是随便挂的,而是由 LLM 决定这块内容属于哪个节点,可能合并进已有节点,也可能新建子节点。论文给出的核心算法是这样:
这里有两个值得注意的控制参数:τ_text 控制叶节点内容长度,超过就分裂;τ_level 控制同一层节点数,超过就触发软聚类( soft grouping ),保持树的平衡性。
第三步:回炉精炼。 塞完所有片段后,做一次 refusion 和 summary——自底向上整理内容、生成各节点摘要,让整棵树的语义表述更加干净一致。
整个过程完全由 LLM 驱动(论文里用的是 Qwen2.5-72B ),嵌入模型用的是 bge-m3 。
导航检索: Agent 怎么"读书"
知识树建好以后,在线检索的流程就像一个 Agent 在读一本有目录的书。
步骤一:向量检索定位候选集。 对查询 q 在所有节点(叶子 + 中间节点的摘要)上做向量检索,拿到 top-k 候选集 R ,再把这些节点映射到它们所在的语义子树 H_sub 。这一步是粗筛,目的是把检索范围从整本书收敛到一两个相关章节。
步骤二:逐层节点选择。 从子树顶层开始,每一层让 LLM 挑选与查询最相关的节点集合 A_t 。
步骤三:节点决策。 对每个选中的节点, Agent 做一个二元决策:π(n) 属于 {absorb, expand}——要么把节点内容吸收进最终上下文,要么继续展开它的子节点。这个决策是迭代进行的, Agent 可以根据已经收集到的信息判断"还缺什么"。
步骤四:混…