Harness 与 Agent 工程 · 上下文与记忆 · 2025-12-24

ChatGPT VS Claude ,Agent记忆用对话压缩还是RAG按需检索

ChatGPT与Claude在记忆模块设计上各显神通,一文揭秘两大AI如何实现个性化记忆。

核心内容:

  1. ChatGPT采用四层静态注入架构,轻量化实现连续记忆
  2. Claude运用RAG式按需检索,动态平衡记忆深度与效率
  3. 两种记忆系统对日常Agent搭建的实践启示

在高质量 AI Agent 系统里,记忆模块的设计远比看起来复杂,它要解决三个关键问题:

怎么存历史对话?什么时候检索?该检索哪些内容?

这些问题直接决定了 Agent 的响应速度、资源占用和能力天花板。

而我们常用的 ChatGPT、Claude 这类大模型,之所以能记住用户的长期偏好,越用越顺手,本质上是因为它们也算一种极简版 AI Agent。但在记忆模块的设计上,两者走了完全不同的路。

最近,一位外网大神Manthan Gupta,对 ChatGPT 以及Claude 的记忆系统做了逆向,结论如下:

GPT记忆主要靠预计算注入 + 分层缓存,主打轻量化连续性;Claude采用RAG式按需检索 + 动态更新,来平衡记忆的深度与效率。

原文如下:

https://manthanguptaa.in/posts/chatgpt_memory/

https://manthanguptaa.in/posts/claude_memory/

那么,两者的记忆模块究竟是怎么运作的?对我们的日常agent搭建有什么启发?本文将深入解答。

01

ChatGPT:四层静态注入架构搭建记忆模块

ChatGPT 未采用传统的向量数据库(RAG)或全量对话存储,而是通过四个分层组件将记忆提前注入每次对话的上下文,在保证个性化的同时控制计算成本。其整体上下文结构为:[0]系统指令 → [1]开发者指令 → [2]会话元数据 → [3]用户长期记忆 → [4]近期对话摘要 → [5]当前会话消息 → [6]用户最新消息,其中后四层为记忆核心。

其中,会话元数据(Session Metadata)指的是短期、非持久化记忆,仅在会话启动时注入一次,会话结束后销毁,主要用于让模型适配当前场景(如移动端简化回复格式),不影响长期记忆。其内容聚焦用户当前使用环境,包括:设备信息;账号属性(订阅等级如 ChatGPT Go、账号年龄、使用频率);行为数据(近 1/7/30 天活跃天数、平均对话长度、模型调用分布如 49% 用 GPT-5)。

用户长期记忆(User Memory),则是长期、可编辑的核心记忆,用于记录用户稳定属性(,如姓名、职业目标、过往经历、项目成果、学习偏好),每次对话都会强制注入。其更新方式包括显式更新(用户通过 “记住这个”“从记忆中删除” 等指令直接管理)以及隐式更新(模型检测到符合 OpenAI 标准的事实如姓名、职位且用户默认同意时,自动添加。)

近期对话摘要(Recent Conversations Summary)则是一个轻量化跨会话层,用于替代传统 RAG 的全量检索,每次对话均注入。这一层仅总结用户消息(不包含助手回复);数量有限(约 15 条),仅保留近期兴趣,不存储细节;整个过程无需嵌入计算或相似度搜索,降低延迟和 token 消耗。

当前会话消息(Current Session Messages)则是一个滑动窗口上下文层,用于维持当前会话连贯性的短期缓存,会存储全量对话内容。当超出 token 上限时,自动 “滚除” 最早的消息,但长期记忆和近期对话摘要不受影响;

02

Claude :工具化按需检索架构做记忆管理

Claude 摒弃了 ChatGPT全量预注入的思路,采用长期记忆 + 按需工具检索的动态架构,仅在需要时调取历史上下文,平衡细节深度与效率。其上下文结构为:[0]系统指令(静态)→ [1]用户记忆 → [2]对话历史 → [3]当前消息。两者的核心差异体现在 对话历史的检索方式和用户记忆”的更新逻辑。

首先是用户记忆(User Memories),其定位是智能更新的长期层,与 ChatGPT 长期记忆功能类似,但支持更灵活的动态更新,格式为 XML 标签包裹。其更新机制包括:隐式更新(后台定期基于对话内容自动更新-非实时,删除对话会逐步移除相关记忆)显式更新(通过memory_user_edits工具,用户用 “记住这个”“删除这个” 指令管理)。对比 ChatG…

— 以上为试看内容(约 40%),开通会员后阅读全文 —

原文出处:https://www.53ai.com/news/RAG/2025122487503.html