langchain4j 新版混合检索来了,RAG 准确率直接拉满

 

你的 RAG 应用明明存进去了正确的文档,回答却驴唇不对马嘴?问题很可能不在大模型,而在检索环节。langchain4j 1.11.0 刚刚发布,PgVector 模块原生支持了混合检索,这篇文章先教你怎么用,再带你看看底层 SQL 是怎么拼的。

为啥 RAG 幻觉这么高?

前几天一个群友在技术群里吐槽:他搭了一套 RAG 系统,把 Spring Boot 的官方文档全部灌进了向量数据库,结果问"Spring Boot 3.5 有哪些新特性",系统返回的竟然是 Spring Boot 2.7 的迁移指南。

文档明明是对的,模型也没问题,那到底哪个环节出了岔子?

答案是检索。

他用的是纯向量检索,也就是把用户的问题转成一个向量,然后在向量空间里找"最像"的文档片段。问题在于,对向量模型来说,"Spring Boot 3.5"和"Spring Boot 2.7"在语义空间里距离很近——它们都是关于 Spring Boot 版本特性的描述,模型只理解了"Spring Boot + 版本特性"这层语义,但 3.5 和 2.7 这种精确的版本号区分,它做不好。

这不是个别现象。只要你的知识库包含大量相似结构但细节不同的文档(比如多个版本的 API 文档、不同产品线的技术规格、相近日期的会议纪要),纯向量检索几乎必然翻车。

最新版本的PIGAI中已经完全适配了,像milvus 、pgvector、ocenbase 等的混合检索策略大大提升RAG搜索的准确性。

PIG AI 首发:RAG + Flow + 多模态全面进化,已经完全支持这种混合检索策略。


纯向量检索到底差在哪

我们先搞清楚向量检索在做什么。它把文本映射到一个高维空间,通过余弦距离或欧氏距离衡量"语义相似度"。这套机制处理"重置密码"和"修改登录凭证"这种同义词替换时表现很好,但它有几个绕不过去的硬伤:

专有名词失灵。产品编号、版本号、错误码这些东西,向量模型处理得并不好。搜"GTX-4090"可能会返回"RTX-3080"的结果,因为它们在向量空间里就是邻居。

过度泛化。问"苹果的营养成分"可能返回 Apple 公司的财报信息,因为向量模型可能没有很好地区分这两个语境。

对短查询不友好。用户输入"CVE-2024-38819"这种查询,向量模型基本是懵的,它倾向于返回"任何跟安全漏洞有关的文档",而不是精确命中那个特定的 CVE 编号。

问题的本质是:向量检索擅长理解"意思",但不擅长匹配"字面量"。而很多真实场景恰恰需要字面量的精确匹配。

混合检索:两条腿走路

既然向量检索擅长语义,传统的关键词检索擅长精确匹配,那把它们拼在一起不就行了?

这就是混合检索(Hybrid Search)的核心思路。一次查询,同时跑两条路:

维度
向量检索
关键词检索
匹配原理
语义相似度
关键词精确匹配
对专有名词
容易泛化
精准定位
对同义词替换
处理很好
基本无能为力
对错别字
有一定容忍度
几乎零容忍
需要模型
需要 Embedding 模型
不需要,纯算法

两条路各自返回一个排序结果,然后用融合算法合并。两路检索的分数量纲完全不一样(一个是余弦距离,一个是词频得分),没法直接相加,所以常见的做法是只看排名位置来融合,比如 RRF 算法。

回到前面那个例子,"Spring Boot 3.5"这几个字会在关键词检索那条路上被精确命中,即使向量检索依然返回了 2.7 的内容,融合之后 3.5 的文档也会排在前面。

langchain4j 1.11.0:PgVector 混合检索落地

langchain4j 发布了 1.11.0 版本。这个版本的 Notable Changes 不少,Agentic 模式支持了流式和多模态,MCP 协议升级到了 2025-11-25 规范,Mistral 推理模型也得到了支持。但我觉得对做 RAG 的同学来说,最实用的一条是这个:

  • • PgVector: hybrid search implementation(PR #4288,贡献者 @YongGoose)

对于大多数 Java 项目来说,PostgreSQL 基本是标配。PgVector 作为 PostgreSQL 的向量扩展,已经是 Java 生态做 RAG 的主流选择。这次直接在 PgVector 模块里加上混合检索,不需要引入额外的搜索引擎,改几行配置就能用。

怎么用:三步搞定

PgVectorEmbeddingStore

— 以上为试看内容(约 40%),开通会员后阅读全文 —