沃尔沃RAG实战:企业级知识库,早就该放弃小分块策略

小分块不如大分块,动态JSON更适合复杂场景业务落地。

沃尔沃汽车是全球知名汽车制造商,所有的战略决策都依赖于高效的数据洞察。

在此背景下,沃尔沃战略部门需要构建基于向量检索的 多模态AI 文档检索系统,支撑300-400MB 文档(约 70 万 - 100 万向量嵌入)稳定处理,适配部门级日均 10-20 次查询场景。

其对文档检索系统的要求如下:

体验侧,需足够精准、能够处理各种多模态数据、支持元数据动态管理、检索透明化监控能力,且支持自托管与托管服务迁移。

成本侧,需要初始投入可控(低于云厂商)、运营成本与使用量挂钩、规模化扩展时成本增长可预测。

开发维护侧,则需要提供完善文档与案例降低开发难度,支持定制化开发,且维护成本低、升级平滑。

针对以上需求,要怎么选型,技术落地有哪些坑?这是沃尔沃的选型与技术部署心得。

01 

如何选型

知识库检索系统的核心是向量数据库,沃尔沃选择先以单机模式部署在自托管虚拟机上。

但在分析 PDF、PowerPoint、Excel、Word 及嵌入图表 / 图像的再被的海量非结构化企业文档时,包括云厂商 AI 搜索服务在内的多数企业级工具,或准确性不足,或成本过高、定制化能力弱。

比如云服务厂商,采用 “固定托管费 + 按使用量计费” 的模式,仅 100MB 数据每月就要花费 250 美元,且大部分成本来自运行时间费用,而非实际查询费用。对于一个日均查询量仅 10-20 次的部门级系统而言,若将该方案推广至生产环境,从财务角度看是不可持续的。

紧随其后,沃尔沃花了一个月调研了市场上几乎所有主流向量数据库产品。但很快发现,这些产品要么是极客专属,要么文档过于简洁,但企业落地,在API 接口和性能之外,更需要清晰的实操指南:怎么做文档预处理、如何选择embedding模型、如何部署可用于生产环境的流程。

最终有三款向量数据库进入候选名单:Milvus、Pinecone 和 ChromaDB。

ChromaDB最早被排除,核心原因在于可扩展性有限。

紧随其后,排除的是Pinecone。Milvus 和 Pinecone在测试环节表现不相上…

— 以上为试看内容(约 40%),开通会员后阅读全文 —