给 LLM 接外部知识,你该走哪条路?

本文介绍知识库三种主流实现路线对比:LLM Wiki 整理式 / RAG + 向量库 检索式 / Long Context 喂入式。从多角度分析三种实现路线在各个场景下的优劣势,为大家推荐最适合自己的技术选型。

前言

2026 年,LLM 本身的推理能力已不再是瓶颈。把外部知识接进去,才是大多数团队真实撞墙的地方:文档碎在 Notion / Confluence / Slack / 飞书各处,每次接入都重做一遍。这就是为什么"知识库"正在变成 LLM 应用最热的工程议题。
本文把当前最主流的三种路线——LLM Wiki 整理式、RAG + 向量库 检索式、Long Context 喂入式——做一份能落地的对比。不评"谁最好",只回答"在什么条件下选哪个"以及"实际项目里它们通常怎么搭"。

三路线核心定位

📚 LLM Wiki:整理式知识库

由 Andrej Karpathy 在 2025 年提出,核心理念是"一次性整理 + 持续维护"。
用 markdown 文件组织知识,通过 wikilink 互相引用。LLM 读取 schema 后能像查 wiki 一样跨主题组合答案,引用链路透明可追溯。强项是跨主题综合 + 引用可解释,弱项是规模上限约 1000 文档,且依赖人工或 agent 持续整理。

🔍 RAG + 向量库:检索增强生成

把文档切成 chunk、用 embedding 模型向量化,存入向量数据库。查询时相似度检索 top-K,塞进 prompt 喂给 LLM。
强项是实时性与规模可扩展(1K 到 1M 文档毫秒级响应),弱项是检索结果以 chunk 编号呈现,黑盒、可解释性弱;chunk 切分破坏语义,top-K 调参复杂。

📖 Long Context:长上下文窗口

直接把整篇文档(甚至多份)塞进 LLM 上下文,不做切分、不做检索。
强项是单文档深度理解 + 跨段推理天然连贯(Claude Sonnet 200K / Claude 4 1M beta / Gemini 1.5 Pro/Flash 1M),弱项是成本随 token 量线性、推理延迟与上下文长度成正比,且有"Lost in the Middle"现象——长上下文中段检索精度明显低于头尾。

多角度对比

定价 / 成本模式

三种成本结构本质不同,不能直接比单价。
  • LLM Wiki:一次付费、长期受益。Obsidian 免费,商业版$8-16/月;LLM API 整理单篇文档约$0.05/篇(基于 5K token 输入 + 2K 输出,按 Claude 3.5 Sonnet 定价)。整理 1 万篇一次性约$500。
  • RAG:持续付费(三段叠加)。嵌入 API(OpenAI $0.02/百万 token)+ 向量库(Chroma/Qdrant 自建免费或Pinecone $70/月起)+ LLM 生成($3/百万 token 起)。典型单次查询$0.05,每月持续支出。
  • Long Context:按量付费。Claude Sonnet 处理 200K 文档约$0.60/query;Gemini 1.5 Flash 同等文档量$0.075(便宜 40 倍)。

结论:长期高频查询 → RAG + Long Context 总成本会超过 LLM Wiki;临时单次任务 → Long Context 最经济(详见末尾"真实成本测算"段)。

易用性 / 上手门槛

门槛不是绝对的,是"持续成本 vs 一次性成本"的权衡。
  • LLM Wiki:表面门槛最低(会写 markdown 就能开始),真正门槛在持续整理——笔记明确指出"需要 LLM agent 或人工定期维护",对没耐心的人是隐性负担。
  • RAG:上手中等偏高:chunking 策略、embedding 模型选型、检索参数(top-k、相似度阈值)调优,任一环没配好结果就崩。但 LangChain/LlamaIndex 把最低门槛降到可运行的 demo 水平。
  • Long Context:几乎零门槛。文档扔进 prompt,厂商负责模型架构和推理优化,开发者只选对模型、估算 token。

结论:试错期 Long Context 最快上手;长期项目 LLM Wiki 边际门槛最低(持续整理投入 vs 持续 API 支出);RAG 居中,需要专门投入调优时间。

核心功能范围

三种路线的能力互补而非替代。
  • LLM Wiki:跨主题综合强,markdown wikilink 引用透明,LLM 可同时读多个相关页面综合答案。弱在…
— 以上为试看内容(约 40%),开通会员后阅读全文 —