Harness 与 Agent 工程 · 上下文与记忆 · 2026-07-04

大模型支持的上下文已超 1M, RAG 是不是没有意义了?

长上下文不会消解RAG,而是让它转型为决定“送什么进大胃王”的智能门卫。

核心内容:

  1. 长上下文面临“中段塌陷”与成本飙升的工程挑战
  2. RAG从“找答案”转向“选内容”的新定位
  3. 数据安全与成本控制是驱动混合架构的关键

2026 年 4 月,DeepSeek V4-Pro 正式发布, 上下文从 128K 直接拉到 1M(整整 10 倍);同一天,OpenAI 的 GPT-5.5 闭源版被曝支持 2M context。一时间,中文 AI 圈都在传一句话: "以后不用 RAG 了,把全部数据塞进 prompt 不就完了?"

下一个问题是, 向量数据库是不是要凉了?

一、注意力缺陷: Lost in the Middle

我们先站在工程一线的角度看这件事。

模型不是"读得越长越好",而是"中段塌陷" —— 一份 1M token 的输入,开头和结尾的指令执行得很准,但中间 50% 的内容经常被模型"看不见"。学术上这叫 "Lost in the Middle".

即使有 DeepSeek 在 2025 年 2 月开源的 FlashMLA(H800 上跑出 3000 GB/s 内存带宽)、2026 年 4 月 ACL 接收的 DASH-KV 论文把 attention 从 O(N²) 压到 O(N), 1M token 的 decode 阶段仍然是显存带宽受限 —— 这是物理定律,不是软件能完全绕开的。

所以工程一线的判断是: 长上下文不会消解 RAG,但会让 RAG "换岗" 。RAG 不再是"找答案的工具", 而是"门卫" —— 决定哪 8K-16K 的内容值得送进 1M 上下文去做"深思"。换句话说: 长上下文是大胃王,RAG 是负责上菜的服务员——你不会让一个人把整桌菜一次吞下,那样会噎着; 也不会让服务员每道菜都重新加热一遍。

这是一线工程师反复踩过的坑: "全量塞入"在工程上是最常见的幻觉。DeepSeek V4-Pro 自己也承认,真正的工业级 1M 请求必须是"召回 + 长上下文精读"的混合架构,不是二选一。

二、滥用长上下文的弊病

如果你站在向量数据库厂商的角度,会听到不一样的声音。

1、模型越长, 出问题时的根因追溯就越难。所以 2026 年 5 月、6 月,无论是 CSDN 的向量数据库选型评测,还是腾讯云技术文章,都在反复强调同一句话: "2026 年大模型应用开发进入了'深水区',真正的瓶颈变成了检索精度和数据基础设施的稳定性" 。

2、成本问题。2025 年 Q4 起,DDR5 内存从 599 元飙到 2099 元(+250%),Counterpoint 预测 2026 年 Q1 再涨 40-50%、Q2 续涨 20%——这意味着 "把所有企…

— 以上为试看内容(约 40%),开通会员后阅读全文 —

原文出处:https://www.53ai.com/news/RAG/2026070417849.html