RAG 的技术路径并没有失效,但它对"知识"的处理方式仍有边界:每次查询都更像重新组织信息,而不是持续积累理解。Karpathy 的 LLM Wiki 提示了另一种方向:让 AI 不只是帮你找到信息,也参与把信息整理成更可用的知识。
4月3日,OpenAI 创始团队成员、前 Tesla AI 高级总监 Andrej Karpathy 在社交媒体上发了一条帖子,说自己最近开始更频繁地把 AI 用在另一件事上:建知识库。
具体做法很朴素:把原始研究材料放进一个文件夹,让 LLM 去读,然后自动生成一整套互相链接的 wiki 文章,不是简单的摘要问答,而是一个有结构、有交叉引用、持续更新的知识体系。他在一个研究主题上跑了一段时间,产出了 约 100 篇文章、近 40 万字[1],全程没有手动编写任何一篇。
帖子发出后迅速传播。第二天他追加了一个 GitHub Gist[2],把整套方案写成了一份纯文本的"Idea File"——自然语言描述的架构文档,很多人拿去交给自己的 AI Agent,就能按各自环境尝试复现。这份 Gist 一周内收获了 1.4 万个 star 和 3000 多个 fork。
这条帖子表面上是一个工具分享,但背后更值得讨论的判断是:仅靠 RAG,未必足以解决知识管理里的"理解"问题。
01RAG 的边界在哪里
RAG(Retrieval-Augmented Generation)是过去两年 AI 应用中最普遍的架构。原理不复杂:用户提问时,先从外部知识库中检索相关文档片段,拼接到 prompt 中,再让大模型基于这些片段生成回答。
这个方法解决了一个真实的痛点:大模型的知识有截止日期,且容易编造事实。给它"参考资料"再回答,准确率确实会提升。围绕 RAG,行业已经建起了一套庞大的基础设施:向量数据库、embedding 模型、chunking 策略、rerank 算法,每一层都有专门的创业公司在做。
但 Karpathy 的批评指向了一个更根本的问题:RAG 往往在每次查询时重新组织上下文。
一个 RAG 系统今天回答了关于 Transformer 注意力机制的问题,明天被问到同样的话题,它会重新完成检索、拼接和生成。它不会因为昨天回答过这个问题就回答得更好——每一次都是从零开始。
"LLM 在每个问题上都从零重新发现知识,没有积累。"
—— Andrej Karpathy, GitHub Gist[2](原文意译)
这就好比一个研究助理,你每次走进办公室问他问题,他都要把所有论文重新翻一遍,从第一页开始。他确实能找到答案,但很难真正积累对这个领域的整体把握。他脑子里没有知识地图,不记得上次查过什么,也看不出两个问题之间的关联。
更值得讨论的,也许不是工程实现本身,而是 RAG 对"知识"这件事的处理方式——它更擅长把知识当作"可检索的文本片段"。但如果讨论的是可持续积累的知识,碎片本身往往还不够,它还需要结构、关联和持续修订。
▲ RAG 与 LLM Wiki 在知识组织方式上的根本差异
02LLM Wiki 做了什么不同的事
Karpathy 的 LLM Wiki 换了一个思路:不是只在查询时临时拼装答案,而是尽量在查询之前把知识整理成更可读的结构。
第一步,投喂原始材料。 把论文、笔记、网页摘录、代码片段等各种格式的原始内容放进一个文件夹。无需预处理,也无需手动标注或切块。
第二步,LLM 自动编纂。 指向这个文件夹,给一份自然语言写的编纂指令(Karpathy 称之为"Idea File"),LLM 就开始工作:阅读全部材料,提取概念和实体,生成独立的 wiki 文章,并在文章之间创建交叉引用链接。产出是一组 Markdown 文件,每个文件对应一个主题词条,来源可追溯。
第三步,持续更新。 新材料加入时,LLM 会增量更新现有内容:修改已有文章、添加新词条、调整引用关系。Wiki 是活的,在使用中生长。
▲ LLM Wiki 工作流程:从原始材料到自动生长的知识库
和 RAG 相比,差异不只是技术细节,最直观的区别在形式上。RAG 里的"知识"是散落在向量空间中的文档碎片,只在用户发起查询的瞬间被临时拼装。LLM Wiki 的产出是成品——主题清晰、段落分明、来源可追溯的文章,人和 AI 都能直接阅读。
这个形式差异背后是一个更深的设计选择:智力劳动发生在什么时候? Karpathy 在 Gist 中的类比是编程:Obsidian 是 IDE,LLM 是程序员,Wiki 是代码库。读者在此基础上引申出编译器的比喻——RAG 像解释器,每次运行时从头解析;LLM Wiki 像编译器,提前把源码处理成可执行的形式。
换一个角度看,这也是数据库设计里"读优化 vs 写优化"的经典取舍:RAG 把理解推迟到查询时…