FDE 企业 AI 落地与交付 · 知识检索与问答问题 · 2026-05-11

到底是谁会相信RAG已死啊?

RAG真的能被替代吗?本文带你直面RAG的固有局限与升级路径。

核心内容:

  1. 剖析传统RAG在复杂场景下的失效原因
  2. 引入混合检索以弥补语义检索短板
  3. 探讨RAG从一次性检索到交互式智能的进化方向

最近一两年,互联网上各种为RAG赛博哭坟的帖子不胜枚举。但观点永远是那些陈词滥调:大模型上下文已经够长了、Agent万岁、embedding增加系统复杂度。但真到了需要语义检索的时候,又有几个人能把RAG真正从系统里拿掉?原因也简单。即使拿掉切 chunk、算 embedding、top-k 塞进 prompt这些繁琐环节,模型必须访问外部知识这件事依然是无法避免的。因为LLM 不知道你的私有文档、最新接口、线上故障记录和内部决策过程。但传统RAG真的有那么好用吗?那也未必。拿以下这个RAG代码做个示例:

from pymilvus import MilvusClientfrom openai import OpenAIopenai = OpenAI()milvus = MilvusClient(uri="http://localhost:19530")query = "为什么服务高并发下报 502?"query_vec = openai.embeddings.create( input=query, model="text-embedding-3-small").data[0].embeddingresults = milvus.search( collection_name="knowledge_base", data=[query_vec], limit=3, output_fields=["content", "source"])

这段代码没问题,但它的隐含条件是:用户的问题描述已经足够清楚,并且相似度最高的文本就能支撑回答。但真实场景通常不会这么简单。比如,用户问高并发下为什么报 502,答案可能分散在 Nginx 错误码说明、upstream 超时配置、健康检查、发布记录和监控日志里。只做一次向量检索,很可能召回错误码说明,因为它语义最接近问题,但这只能解释 502 是什么,解释不了为什么现在才出现。再比如,用户问怎么让 Python 跑得快,文档写的是 CPython profiling、GIL contention、NumPy vectorization。两边说的是同一类问题,但字面表达和语义重心都不完全一样。向量相似度能缓解这个问题,不能保证每次都跨过去。

这也是 RAG 被反复质疑的原因。但这些失败并不说明检索没价值,它们暴露的是另一个问题:很多RAG系统把检索当成了一次性动作,那么该如何纠正这个问题?本文将对此做重点解读。

01

RAG升级一:混合检索补全语义短板

如果传统nativeRAG 解决不了问题,我们可以做的第一轮修补,引入混合检索,让检索别只依赖语义相似度。在技术文档、故障排查和企业知识库里,关键词的重要性不比语义更低。错误码、配置项、函数名、合同编号、产品型号,这些东西不能只靠语义猜。502、timeout、proxy_read_timeout 这种词一旦丢掉,模型再会总结也没用。混合检索的价值就在这里:由稠密向量负责捕捉语义层面的相近性,由 BM25 或稀疏检索负责实现关键词的精确命中,最后通过 RRF 或加权策略将两类检索结果融合,兼顾语义相关性与关键词准确性。在混合检索的落地过程中,过往很多系统采用向量数据库做语义检索+外挂 Elasticsearch 做关键词检索的方案,但这种方式很容易会因两套索引、两套写入链路以及两套系统的一致性问题陷入困境,难以稳定运行…

— 以上为试看内容(约 40%),开通会员后阅读全文 —

原文出处:https://www.53ai.com/news/RAG/2026051139605.html