知识库不是文件堆——我把RAG准确率从60%调到了92%

知识库不是文件堆
——我把RAG准确率从60%调到了92%
文档越多,准确率不一定越高
客经AI实战派 | 2026年6月

上周有朋友私信问我:「我搭了一个保险客服Agent,知识库传了200多份产品文档,但准确率只有60%出头。是不是模型不够好?」
我问了他一个问题:「你的知识库里,一份50页的产品手册,是怎么切块的?」
他愣了一下:「……直接按PDF分页切的?」
这就是根因。不是模型的问题,是知识库的建法有问题。
这一期,我把自己调优一个客服知识库的完整过程拆开来讲——从60%到92%具体做了什么、每一步的数据变化、以及三个最容易被忽略的坑。

一、大多数RAG准确率低,根因不在模型,在三个假设
RAG(检索增强生成)听起来简单:把文档丢进向量库,用户提问时检索相关内容,喂给大模型回答。三步走,好像不需要调。
但这里藏着三个默认假设,每一个都可能让你翻车:
假设一:「文档切得越细,检索越精准」
恰恰相反。切太细会导致语义碎片化——「等待期」和「等待期的计算规则」切成两块,检索时只能命中一块,另一半信息丢失。切太粗则一段里混着3个不相关话题,检索噪声大,模型不知道该信哪段。
假设二:「用户问什么,就检索什么」
用户问「这个产品好不好」,他不会说「请检索产品A的现金价值表、疾病定义条款、免责条款,然后做一个综合评估」。把用户的自然语言直接当检索query,等于让一个不会写SQL的人去查数据库——他表达出来的,和他真正想要的,是两回事。
假设三:「检索到了,模型就能答对」
检索到相关内容只是第一步。如果检索到的3段分别是「投保规则」「理赔流程」「退保说明」,而用户问的是「能不能加保」,三段的语义都和问题有距离——模型被喂了一堆似是而非的信息,不答错才怪。
这三个假设,每一条我都踩过。接下来是实测数据。
▲ RAG准确率低的三个错误假设

二、实测:三轮调优,准确率从60%提到了92%
测试场景:一个保险客服知识库,含3款产品条款文档、27份FAQ、12份合规话术模板——共42份文档。评测集50题,覆盖产品咨询、理赔流程、投保规则、退保计算四类场景。
基线(Round 0):准确率60%
初始配置:固定长度分块(500字/块)、无Query改写、Top-3检索、无相似度过滤。50题中答对30题,答错20题。
主要错误类型:
- 答非所问…
— 以上为试看内容(约 40%),开通会员后阅读全文 —