很多团队在知识建设上都会经历同一个阶段:文档越来越多,检索越来越强,问答也能跑起来,但真正需要复用的判断却始终沉不下来。你能把资料找回来,却很难保证下一次不用再理解一遍。
这也是我看 Andrej Karpathy 提出 LLM Wiki 时最有感的一点。它真正切中的,不是“再造一个知识库产品”,而是把一个长期被忽略的问题说透了:有些知识适合在查询时临时拼装,有些知识则应该在入库时就先完成一轮整理、抽象和连接。前者更接近 RAG,后者更接近 wiki 式的知识编译。
如果把这两类机制混成一件事,知识系统很容易沦为一个更昂贵的搜索入口。它能回答问题,但不能稳定复用判断;能召回原文,却不能把经验真正积累下来。
问题不在“能不能找到”,而在“要不要反复理解”
RAG 的价值从来都不小。它擅长保存原始语义,适合挂接大规模资料,也适合处理那些低频、长尾、临时出现的问题。对于“某份方案里有没有提过这个字段”“去年的会议里谁说过这件事”这类问题,RAG 的路径非常合理:先把资料找出来,再让模型基于上下文完成理解。
问题在于,团队里并不只有这类问题。
很多真正消耗协作成本的内容,恰恰不是“找不到”,而是“每次都要再想一遍”。比如:
- • 为什么当时选了方案 A,没有选方案 B。
- • 某类系统约束为什么一直存在,不能轻易改。
- • 一个业务规则的边界到底在哪里,历史上踩过哪些坑。
- • 几份零散资料之间,究竟能抽出什么稳定结论。
这类内容只靠检索并不划算,因为它们的成本不在召回,而在重复理解。
RAG 的能力边界:保存原料,按需取用
从系统设计角度看,RAG 更像一种“存储优先”的范式。它尽量不提前改写知识,而是把原始材料保留下来,在用户发问时再做上下文拼装。
这种范式有三个天然优势:
- • 信息保真度高,离原始出处近。
- • 扩展资料规模相对直接。
- • 对冷门问题更友好,不需要提前判断哪些内容值得加工。
但它也有明显边界。只要一个问题会高频重复出现,RAG 就会不断重复支付同一种理解成本。系统每次都要重新检索、重新组装、重新归纳。短期看没问题,长期看就会暴露出两个症状:
- • 回答能出来,但稳定性依赖当次召回质量。
- • 知识能访问,却没有真正形成可维护的资产。
换句话说,RAG 很擅长“把资料带到现场”,却不天然负责“把判断沉淀下来”。
如果把两种思路并排看,差异会更直观:
图:RAG 负责把原始资料带回现场,LLM Wiki 负责把高频判断沉淀成可复用资产
| 维度 | RAG | LLM Wiki |
|---|---|---|
| 处理时机 | 查询时再理解 | 写入时先做一轮抽象 |
| 主要目标 | 找回原始资料 | 固化可复用判断 |
| 更适合的内容 | 冷区、长尾、低频问题 | 半熟、高频、反复解释的问题 |
| 典型产物 | 检索结果、引用片段、即时回答 | 概念页、实体页、专题判断 |
| 成本曲线 | 每问一次,理解成本支付一次 | 前置加工一次,后续持续复用 |
LLM Wiki 的关键,不是整理文档,而是编译知识
LLM Wiki 更有意思的地方,在于它把“理解”这件事往前移了一步。
它不是等问题来了再临时组织答案,而是在…