langchain4j 新版混合检索来了,RAG 准确率直接拉满
你的 RAG 应用明明存进去了正确的文档,回答却驴唇不对马嘴?问题很可能不在大模型,而在检索环节。langchain4j 1.11.0 刚刚发布,PgVector 模块原生支持了混合检索,这篇文章先教你怎么用,再带你看看底层 SQL 是怎么拼的。
为啥 RAG 幻觉这么高?
前几天一个群友在技术群里吐槽:他搭了一套 RAG 系统,把 Spring Boot 的官方文档全部灌进了向量数据库,结果问"Spring Boot 3.5 有哪些新特性",系统返回的竟然是 Spring Boot 2.7 的迁移指南。
文档明明是对的,模型也没问题,那到底哪个环节出了岔子?
答案是检索。
他用的是纯向量检索,也就是把用户的问题转成一个向量,然后在向量空间里找"最像"的文档片段。问题在于,对向量模型来说,"Spring Boot 3.5"和"Spring Boot 2.7"在语义空间里距离很近——它们都是关于 Spring Boot 版本特性的描述,模型只理解了"Spring Boot + 版本特性"这层语义,但 3.5 和 2.7 这种精确的版本号区分,它做不好。
这不是个别现象。只要你的知识库包含大量相似结构但细节不同的文档(比如多个版本的 API 文档、不同产品线的技术规格、相近日期的会议纪要),纯向量检索几乎必然翻车。
最新版本的PIGAI中已经完全适配了,像milvus 、pgvector、ocenbase 等的混合检索策略大大提升RAG搜索的准确性。
PIG AI 首发:RAG + Flow + 多模态全面进化,已经完全支持这种混合检索策略。
纯向量检索到底差在哪
我们先搞清楚向量检索在做什么。它把文本映射到一个高维空间,通过余弦距离或欧氏距离衡量"语义相似度"。这套机制处理"重置密码"和"修改登录凭证"这种同义词替换时表现很好,但它有几个绕不过去的硬伤:
专有名词失灵。产品编号、版本号、错误码这些东西,向量模型处理得并不好。搜"GTX-4090"可能会返回"RTX-3080"的结果,因为它们在向量空间里就是邻居。
过度泛化。问"苹果的营养成分"可能返回 Apple 公司的财报信息,因为向量模型可能没有很好地区分这两个语境。
对短查询不友好。用户输入"CVE-2024-38819"这种查询,向量模型基本是懵的,它倾向于返回"任何跟安全漏洞有关的文档",而不是精确命中那个特定的 CVE 编号。
问题的本质是:向量检索擅长理解"意思",但不擅长匹配"字面量"。而很多真实场景恰恰需要字面量的精确匹配。
混合检索:两条腿走路
既然向量检索擅长语义,传统的关键词检索擅长精确匹配,那把它们拼在一起不就行了?
这就是混合检索(Hybrid Search)的核心思路。一次查询,同时跑两条路:
两条路各自返回一个排序结果,然后用融合算法合并。两路检索的分数量纲完全不一样(一个是余弦距离,一个是词频得分),没法直接相加,所以常见的做法是只看排名位置来融合,比如 RRF 算法。
回到前面那个例子,"Spring Boot 3.5"这几个字会在关键词检索那条路上被精确命中,即使向量检索依然返回了 2.7 的内容,融合之后 3.5 的文档也会排在前面。
langchain4j 1.11.0:PgVector 混合检索落地
langchain4j 发布了 1.11.0 版本。这个版本的 Notable Changes 不少,Agentic 模式支持了流式和多模态,MCP 协议升级到了 2025-11-25 规范,Mistral 推理模型也得到了支持。但我觉得对做 RAG 的同学来说,最实用的一条是这个:
• PgVector: hybrid search implementation(PR #4288,贡献者 @YongGoose)
对于大多数 Java 项目来说,PostgreSQL 基本是标配。PgVector 作为 PostgreSQL 的向量扩展,已经是 Java 生态做 RAG 的主流选择。这次直接在 PgVector 模块里加上混合检索,不需要引入额外的搜索引擎,改几行配置就能用。
怎么用:三步搞定
PgVectorEmbeddingStore