微软推出企业级 AgenticRAG!四个工具助力RAG新范式落地

一句话讲清楚👉🏻 微软提出的 AgenticRAG 给企业知识库上的 RAG 套了一层轻量级 Agent harness ,让推理模型可以反复 search 、 find 、 open 、 summarize ,在真实长文档检索、企业问答和金融文档问答上显著逼近“拿到正确证据后再回答”的上限。

企业知识库里的 RAG ,最容易翻车的地方通常落在第一把检索。

用户问一句“这个条款在什么情况下适用”“某家公司利润率变化主要来自哪里”“排障步骤里前置条件是什么”,检索系统要先从几千篇、几万篇甚至更大的内部文档里切出候选片段。传统流水线会把这些候选内容一次性交给模型,模型再基于这一小包上下文回答。

问题在于,企业问题往往不是一句关键词能打穿的。

同一个答案可能散在产品手册、支持文档、财报 PDF 、合规条款、历史邮件导出的知识页里;一个关键数字可能要先找到章节,再跳到表格,再回头读定义;一次检索返回的 snippet 看起来相关,完整文档里却可能是反例或过期说明。于是整个系统把很大的压力压在检索栈上:第一把检索必须足够准,排序必须足够好,切片必须刚好覆盖证据。

微软这篇 AgenticRAG 的思路很工程化:不要强迫搜索栈一次性做完所有判断。搜索栈负责广撒网、给高召回候选;推理模型负责后续的精读、跳转、补证据、合并线索。

论文来自 Microsoft Corporation ,目标场景也很明确:企业知识库、长文档、复杂问题、可追溯证据。它没有训练新模型,没有重建知识图谱,也没有要求把企业文档搬去重新做一套专用索引;它选择在已有企业搜索基础设施之上加一层轻量 Agent harness 。

核心变化:从“一次检索”变成“带工具的阅读过程”


传统 RAG 像是让模型只看搜索引擎第一页截图,然后立刻写答案。 AgenticRAG 更像一个会查资料的人:先搜索候选文档,发现不够就进文档里找关键词,再打开完整窗口读上下文,证据太多时先做摘要,最后带着引用回答。

论文把这套 harness 拆成四个工具:

•search : 在企业语料库里发现相关文档,可以一次发出多条查询改写,每条最多返回 10 个候选,并做去重。
•find : 在某个候选文档内部按关键词或语义模式定位片段,每个 pattern 最多返回 2 段,整体有 token 上限。
•open : 打开某个文档的固定行窗口,默认每次读 1800 行,也可以从指定行号继续读。
•summarize : 当上下文快满时,把已经得到的线索压缩成可保留的工作记忆,并保留关键 reference ID 。
AgenticRAG 的循环:模型每一步决定继续调用工具,还是基于已收集证据输出带引用的最终答案。

这张图里的关键不在“Agent”这个名字,关键在闭环。模型每轮都看到当前对话、已有工具结果和引用标识,然后自己决定下一步动作:继续 search ,还是对某个文档 find ,还是 open 深读,还是已经足够回答。

论文设置的默认最大迭代次数是 15 。达到上限后,系统会强制模型基于已有信息完成回答;如果上下文使用量达到 128K token 阈值附近,系统会触发 summarize ,把重要证据压缩留下来,删除无关工具结果。这样做的目的很实在:让模型能在长文档任务里持续检索,又不被上下文撑爆。

为什么企业 RAG 尤其需要这种设计


公开网页搜索里,很多问题本来就可以靠一两个高质量页面回答。企业知识库要麻烦得多。

第一,企业文档长。 FinanceBench 里的金融文档平均约 143 页、约 11.7 万 token ; BRIGHT 长文档设置里, Stack Overflow split 的平均文档长度超过 4 万 token 。把这些内容预切成 chunk 后,结构信息会被打散,标题、表格、上下文边界也容易丢。

第二,企业问题常常是 situational query 。用户不会问“定义是什么”这种教科书问题,而会带着场景问:“如果 A 条件成立但 B 未完成,该流程怎么走?”这类问题需要跨段落、跨文档、跨术语对齐。

第三,企业系统需要证据链。回答要能指向文档、章节、引用,不能只给一个看似合理的自然语言结论。 AgenticRAG 里的 reference ID 、 line-numbered preview 、 candidate reference retention ,都是围绕“回答可追溯”设计的。

论文里有一句很值得工程团队记住:这套方法把搜索栈的责任从“最终精排”调整为“高召回候选发现”。最终精读和判断交给推理模型完成。

这对已有企业搜索系统很友好。企业内部往往已经有成熟搜索栈,负责权限、索引、文件类型、元数据、延迟和可用性。 AgenticRAG 不要求推倒重来,它把现有搜索包装成一个工具,再补上文档内搜索和窗口化阅读。

四个工具怎么协作


search :先扩大候选面

search 工具对接已有企业搜索后端。在默认配置下,模型一次工具调用里最多可以给出 5 个 query reformulations 。比如用户问金融文档中的某个利润率变化,模型可能同时搜索指标名、同义表达、公司名加季度、相关报表字段等。

每条查询最多返回 10 个结果。系统会合并、去重,并给每个结果分配全局唯一 reference ID ,格式类似 turnmsearchn 。这个 ID 会在后续 find 和 open 中继续使用,避免模型只靠模糊标题引用文档。

多查询搜索的作用主要是效率。论文消融显示,去掉 multi-query search 后, Recall@1 没有崩,但平均工具调用从 4.79 上升到 6.79 。也就是说,多查询让模型少绕路,用更少回合找到差不多质量的证据。

find :知道要找什么时,直接进文档定位

find 解决的是“候选文档很长,但我已经知道关键词”的问题。

比如模型在 search 结果里看到某份财报很可能包含答案,它可以在这份文档内部找 revenue 、 operating margin 、 capital expenditure 这类 pattern 。论文里的 find 是大小写不敏感的 substring matching ,也可以启用 semantic find 。每个 pattern 最多返回 2 个匹配片段,返回内容会做去重并截断在约 11K token 以内。

它不是为了替代全文阅读,而是用来把阅读位置缩小到关键区域。对企业 PDF 、手册、支持文档来说,这个动作非常像人类先 Cmd+F 再阅读上下文。

open :从片段走向上下文

open 工具负责读取完整文档窗口。默认每次返回 1800 行,也会告诉模型当前查看的是哪一段,比如“Viewing lines [0–1799] of 3000 lines”。模型可以根据标题、表格、上一轮 find 的位置,继续从某个行号附近打开。

这个设计处理了一个常见痛点: RAG chunk 可能只给出局部片段,但答案判断往往依赖片段前后的定义、例外、表格脚注、单位说明。 open 让模型从“命中一段文字”进入“阅读一段文档”。

summarize :长链路里的压缩阀

当模型反复 search 、 find 、 open ,工具结果很快会堆满上下文。 AgenticRAG 在对话达到 90% token budget 时发出内部警告,到阈值时强制 summarize 。

summarize 工具不是普通摘要,它会让模型记录当前推理状态,并指定需要保留的 reference ID 。系统随后扫描工具消息,删除未被保留引用关联的内容。这样一来,模型不会因为压缩而丢掉关键证据来源,也不需要从头开始检索。

上下文管理示例:系统通过强制 summarize 保留当前推理状态和关键引用,释放无关工具结果占用的上下文。

我的判断是, summarize 在这篇论文里的意义比消融分数看起来更偏“生产安全阀”。 BRIGHT 上去掉 summarize 影响不大,因为任务通常在上下文撑爆前结束;但在真实企业问答里,一次会话可能有多轮追问,用户还会不断引用前文,这个机制会决定系统能不能稳定跑久。

实验一: BRIGHT 长文档检索


BRIGHT 是一个面向 reasoning-intensive retrieval 的 benchmark 。论文选用 long-context setting :文档是完整网页,而不是预切片段。任务是给定复杂问题,找出相关完整文档。

数据覆盖 8 个领域: Biology 、 Earth Science 、 Economics 、 Psychology 、 Robotics 、 Stack Overflow 、 Sustainable Living 、 Pony 。总计 861 个 query 、 5650 篇文档,平均文档长度约 16280 token 。 Stack Overflow split 的文档尤其长,平均超过 40700 token 。

核心指标是 Recall@1 ,也就是系统排第一的文档是否命中 gold document 。

方法
模型
Avg R@1
备注
BM25
Sparse
11.4
稀疏检索
Qwen
Embedding
27.8
最强开源嵌入基线
ReDI
Reasoning
26.0
微调分解检索
AgenticRAG
GPT-5-mini
43.5
search/find/open/summ
AgenticRAG
Claude Sonnet 4.5
49.6
全文最佳

AgenticRAG with Claude Sonnet 4.5 达到 49.6% 平均 Recall@1 ,比最强 embedding baseline Qwen 的 27.8% 高 21…

— 以上为试看内容(约 40%),开通会员后阅读全文 —