从个人知识库到企业级 RAG:我们最终选了 WeKnora

从个人知识库到企业级 RAG:我们最终选了 WeKnora

工具没有最好的,只有最对的。我们绕了一大圈才真正信这句话——也才敢说「我们的场景,选 WeKnora」。

一个很优雅、但撑不起企业的起点

故事得从一个很「极客」的范式说起。

Andrej Karpathy 提过一个想法,大意是:把大模型当成一个「编译器」——与其每次提问都去向量库里现捞一堆碎片,不如先让 LLM 把原始资料「主动编译」成一座互相链接、可审阅的 Markdown 知识库,平时查询直接读这座编译好的库。

我们照着这个范式搭了第一版内部知识库。它长这样:

  • 原始资料/
     里堆着各种非结构化文档(PDF、Excel、Word);
  • 一条编译链把它们转成 知识库/,再由人 + LLM 蒸馏出 摘要/、概念/、分析/ 这些带反向链接的高信号导航页;
  • 查询时用一批 query 工具 直接 grep + 正则去读这些 Markdown,命中关键词就返回。

说实话,这套东西在「自己用」的尺度上非常优雅:知识是可读的、可审计的、互相连结的,没有一坨看不懂的向量黑箱。它把「知识沉淀」这件事做对了。

然后,我们想把它升级成一个企业级知识库——给团队、给业务系统、未来甚至给客户用。

撞墙了。

二、个人 wiki 范式,到底卡在哪

把「自己用的 wiki」搬向「企业级知识库」,几堵墙是同时压过来的:



第一堵:入口错位。 我们的查询入口本质是一套命令行 / IDE agent 工具。它服务开发者很顺手,但企业知识库要的是 REST/OpenAI 兼容 API + Web UI + IM 入口——业务系统没法去调你的 CLI,客户更不可能。

第二堵:召回方式落后。 grep + 正则只认「字面命中」。用户换个说法、用个同义词,就搜不到了。语义检索、关键词检索、重排这套现代 RAG 的标配,我们一样没有。

第三堵:多跳 agent 又慢又脆。 早期我们让模型自己多步推理、自己决定调哪个工具。结果是单次查询经常 50 秒以上,还有接近 9% 的「卡死率」——每问十来次就有一次彻底跑飞。为了兜住它,我们在链路里堆了一层又一层的防御补丁,越堆越脆。

第四堵:企业能力全缺。 多租户、权限隔离、审计日志、可观测、可回归的评测——这些「自己用」时根本不需要、但「对外用」时一个都不能少的东西,统统是空白。

到这里,结论已经很清楚:问题不是哪个 bug 没修好,是范式错配。 个人知识库 wiki 和企业知识库,根本是两种东西。

有意思的是,我们不是唯一一个得出这个结论的人。后面会讲到的一篇选型文里,作者开头就写:「原计划玩一玩 LLM wiki 的概念,用了一下发现还是有些不适应,所以还是想看看传统的 RAG 怎么样。」——英雄所见略同:个人 wiki 范式很美,但它不是企业知识库。

三、选型:先把业界方案铺开

认清这点之后,我们开始正经选型。开源知识库 / RAG 这块,大致就三条路线:



  • 路线 A:一站式开源平台
    ——Dify / FastGPT / RagFlow / MaxKB / WeKnora 这类,开箱即用、自带 UI、自带 API、社区活跃。第一阶段落地首选。
  • 路线 B:自研组件组合
    ——vLLM + 向量库 + Embedding + Reranker + 自己写编排。可控性最强,但要团队持续投入。
  • 路线 C:商业私有化产品
    ——能本地部署,但 license 贵、有供应商锁定、二开受限。对我们这种要深度定制的场景,默认不考虑。

我们的硬约束很明确:数据不能出网(必须私有化本地部署)、要能给业务线调 API、第一阶段的方案到后面别推倒重来。所以主战场就是路线 A 的几个一站式平台。

四、选型没有标准答案——它取决于你的场景

这部分我想认真讲,因为它是整篇文章最值钱的一句话:RAG 选型没有银弹,谁是「最好」完全取决于你的文档形态和使用场景。

我们调研期间,正好读到两篇结论和我们完全不同的实测文章。它们都没错——错的是「以为存在一个放之四海皆准的最优解」。



先看两篇「对照组」:同样在选型,结论却相反

这两篇文章我都从头读到尾,结论都不是 WeKnora——但它们恰恰帮我把自己的场景照清楚了。

  • 参考文一
    (公众号「AI 易用君」)的核心场景是售前招标合同、客户支持文档,刚需写得明明白白:PDF/Word/Excel/PPT 全格式、跨页表格、合并单元格一格不差。在这个标准下他实测四款,选了 RAGFlow(自研 DeepDoc 引擎,复杂表格识别 90%+),还把 WeKnora 列为「不推荐」。他没说错——如果你的痛点是「把排版地狱般的合同表格一格不差抠出来」,RAGFlow 就是更对的工具。
  • 参考文二
    (公众号「幸运兔聊 AI」)讲的是 PageIndex:不切碎、不用向量库,把一份长文档变成「目录树」让 LLM 像翻书一样推理,金融财报基准冲到 98.7%。但它自己泼的冷水最值钱:多文档扩展性差、每次查询都要调 LLM 成本线性涨、中文开源版字符串匹配直接失效、单次查询 3–10 秒不适合高并发。它的决策树里甚至有一句直接替我做了判断——「你有几千上万份文档要做企业知识库 → 传统向量 RAG + 精排」。

两篇都对。只是他们要钉的钉子,不是我们的钉子。 一个在比「谁的解析刀更锋利」,一个在比「谁翻单本书更准」——而我们要的,根本是另一类东西。

我们的场景:一个要长期演进、要对外、要沉淀的「知识中台」

把对照组放回一边,回到我们自己。我们要建的不是「解析一份变态表格的工具」,也不是「翻一本财报的助手」,而是一个会长期生长、要给很多人很多系统共用、还要把知识沉淀成资产的平台。具体拆开看,有四个绕不过去的特征:

一、用的人不是一类,是好几类,而且高频。 同一套知识库,团队同事要在 IM 里随口就问、业务系统要按流程环节自动调 API、将来还要开给客户用。这意味着它必须同时有 IM 入口 + OpenAI 兼容 API + 多租户隔离——任何一个「只能人点 Web UI」或「只能单租户」的方案,第一关就出局。

二、文档不是一份,是一座持续生长的库。 我们的资料是数百篇文档、分散在多个专业垂类(规范标准、经验沉淀、案例库、法规条文、风险库……),而且每周都在变。所以「单文档神器」型的方案天然不适配,我们要的是多库、多垂类、能增量入库、跨库混合检索的底座。专业领域里又全是「编号、术语、金额、专名」,关键词精确命中和向量语义召回缺一不可——这正是混合检索 + rerank 的用武之地。

三、我们骨子里要「沉淀」,不只是「检索完就扔」。 别忘了我们是从 Karpathy 那套「LLM 编译 wiki」一路走来的,对「知识要被提炼成可浏览、可累积的资产,越用越厚」有执念。市面上多数方案只解决「查得到」,不解决「沉得下」——而能把零散文档自动蒸馏成互链知识页这件事,对我们是刚需,不是锦上添花。

四、要私有化,还要可治理。 数据是敏感私域,一个字节都不能出网,模型、向量库、文件存储必须全在内网闭环。同时,将来对客户就得有权限、审计、可观测、可评测——答错了要能定位到底召回了什么,调优了要能回归验证,出了问题要有审计轨迹。

把这四点落成一张硬指标清单,就是我们真正的选型标尺:

我们的刚需
为什么重要
私有化本地部署
数据是敏感私域,一个字节都不能出网
多文档 / 多垂类 + 增量入库
数百篇文档分散在多个专业垂类库,且持续生长
混合检索(向量 + 关键词 + rerank)
专业领域大量「编号、术语、金额、专名」靠关键词精确命中
知识能沉淀(越用越厚)
从「LLM 编译 wiki」一路来的执念:知识要变成资产
内建 Agent + 工具调用
复杂业务问题要多步推理、要调结构化查询
多租户 / 权限 / 审计
团队 + 业务系统 + 未来客户共用,隔离与合规一个都不能少
IM 入口 + OpenAI 兼容 API
同事在 IM 里随口问、业务线改一行 base_url 就能接
可观测 + 可评测
答错了能定位、调优能回归

这张表摆出来,指向的根本不是「一把更锋利的解析刀…

— 以上为试看内容(约 40%),开通会员后阅读全文 —