知识库分层编排:从 RAG 到 Agent-native Knowledge Context Layer
阿里妹导读
文章内容基于作者个人技术实践与独立思考,旨在分享经验,仅代表个人观点。
一、知识库的根本困境
从一个知识库检索超级微服务高级skill开始的思考。
1.1 RAG 的天花板
RAG(Retrieval-Augmented Generation)是当前最流行的知识库方案:把文档切成 chunk → embedding → 用户 query 时向量检索 Top-K → 喂给 LLM 生成答案。
这个方案在简单问答场景下表现尚可,但在工程知识库场景中有三个结构性缺陷:
缺陷一:每次从零推导。 正如 Karpathy 在 LLM Wiki 设计文档中指出的——"the LLM is rediscovering knowledge from scratch on every question. There's no accumulation."(LLM 在每个问题上都从头重新发现知识,没有任何积累。)问一个需要综合 5 篇文档的问题,LLM 必须每次都找到并拼接这 5 个片段,没有任何中间成果被保留。
缺陷二:无法连点成线。 Microsoft GraphRAG 的研究明确指出 baseline RAG 的两个失败模式:一是"struggles to connect the dots"——当答案需要通过共享属性连接分散信息时,平坦的向量检索无能为力;二是"performs poorly when being asked to holistically understand summarized semantic concepts over large data collections"——无法对大规模语料做全局性的语义理解。
缺陷三:粒度混乱。 一个 chunk 可能是"系统设计原则",也可能是"某个函数的第 42-143 行实现"。向量空间不区分抽象层次——"设计原则"和"代码实现"在语义上可能很近(都包含"单一职责"关键词),但它们服务于完全不同的认知需求。
1.2 四个常见症状
无论团队规模大小,知识库都会出现这些症状:
- "搜什么都是那几篇" —— 高词频长文档垄断 Top-K 结果
- "找到了但不是我要的层次"—— 想知道"是什么",返回了"怎么实现"
- "改了一个地方不知道影响什么" —— 文档之间没有关联关系
- "新人不知道从哪看起" —— 没有阅读路径和导航结构
这些症状的共同根源:知识库缺少结构。 向量检索把知识当成"一袋词",而工程知识是"一棵树"和"一张图"。
二、知识库方法论全景:从平铺到结构化
当前主流的知识库构建方法论可以分为 4 个范式,每个范式代表了对"知识应该如何组织"的不同回答。
2.1 范式一:Naive RAG — 平铺向量检索
核心思想:文档 → chunk → embedding → 向量数据库 → 相似度检索。
源文档 → 分块(chunking) → 向量化(embedding) → 存入向量DB查询 → 向量化 → Top-K 相似度匹配 → 拼接 prompt → LLM 生成
优势:实现简单,无需预处理,直接可用。
局限:默认配置下无积累、无关联、无层次、无角色区分。每次查询都是一次性的,知识不会随使用变得更好。(注:现代 RAG 可通过 metadata filter、rerank、hybrid search、ACL、query routing 等手段弥补部分缺陷,但需要额外工程投入。)
代表产品:大多数企业知识库、ChatGPT 文件上传、NotebookLM 的基础模式。
2.2 范式二:LLM Wiki — 持续编译的知识工件
核心思想:LLM 不只是检索者,而是知识的维护者。知识被"编译一次并持续维护",而非每次查询时重新推导。
这是 Andrej Karpathy 提出的知识库模式(LLM Wiki Pattern[1]),核心洞察是:wiki 是一个持续积累的工件(persistent, compounding artifact)。交叉引用已经建好,矛盾已经被标记,综合分析已经反映了所有已读内容。
三层架构:
三个核心操作:
- Ingest:新源文档进入 → LLM 通读 → 写摘要页 → 更新索引 → 修订所有相关的实体和概念页面。一次 ingest 可能触及 10-15 个 wiki 页面。
- Query:通过 index.md 定位相关页面 → 读取 → 综合带引用的回答。关键机制:好的回答可以反哺为新的 wiki 页面,让探索也成为知识积累。
- Lint:定期健康检查——矛盾、过期声明、孤立页面、缺失概念、断裂的交叉引用。
为什么 wiki 维护不会崩塌? Karpathy 指出了人类维护 wiki 失败的根因:"Humans abandon wikis because the maintenance burden grows faster than the value."(人类放弃 wiki 是因为维护负担增长快于价值。)LLM 显著降低了这个瓶颈——它做摘要、交叉引用、归档、记账,维护成本远低于人工。但 LLM 维护仍有局限:可能产生过期引用、内容冲突、错误归档和幻觉风险,需要人类定期审核。人类的角色转变为策展、方向指引、深度思考和质量把关。
局限:wiki 页面之间的关联是通过 wikilink 手动维护的,没有自动的关系推断和社区检测。适合中等规模(~100 源文档)的知识库。
2.3 范式三:Graphify — 代码即图谱
核心思想:把代码库、文档、配置文件、设计稿等异构资源统一映射为一张可查询的知识图谱。
Graphify[2] 采用双管道提取:
- AST 管道(离线):通过 tree-sitter 对多种编程语言做本地解析,提取函数、类、模块、导入等代码实体。不调用任何外部 API。
- 语义管道(LLM):对文档、PDF、图片、视频等非代码内容做 LLM 语义提取,生成概念节点和关系边。
三个产出物:
graph.html | |
GRAPH_REPORT.md | |
graph.json |
独有能力:
- God Nodes:系统中连接度最高的概念枢纽
- Surprising Connections:意料之外的跨模块关联,按"意外程度"排序
- Knowledge Gaps:图谱自动发现的知识缺口
- 置信度三档:每条关系标记EXTRACTED(直接观察)/ INFERRED(逻辑推导)/ AMBIGUOUS(不确定),保证可追溯性
与传统文档的本质区别:传统文档是线性的、静态的、按文件隔离的;Graphify 把代码+数据库+配置+设计文档+媒体统一到一张图里——一个 SQL schema 节点可以直接连接到查询它的应用代码和解释它设计理由的 PDF。
局限:图谱擅长关联分析("A 和 B 有什么关系"),但不擅长直接问答("这个接口的参数是什么")。图谱是知识的骨架,不是知识本身。
2.4 范式四:GraphRAG — 图谱增强的检索
核心思想:先构建知识图谱 → 社区聚类 → 生成分层摘要 → 查询时结合图结构和社区摘要回答。
Microsoft GraphRAG[3] 是对 Naive RAG 的结构化升级:
源文档 → 实体/关系提取 → 构建知识图谱
→ Leiden 算法社区聚类 → 分层社区摘要
→ 查询时: Global Search(社区摘要) / Local Search(实体邻域)
两种查询模式:
- Global Search:利用社区摘要做全局推理——"整个代码库的设计模式有哪些?"
- Local Search:从特定实体出发,沿图谱边扩展到邻域——"UserService 关联了哪些组件?"
解决了 Naive RAG 的两个痛点:通过图结构"连点成线",通过社区摘要实现"全局理解"。
局限:构建成本高(需要…