Agent 记忆与 RAG的区别与联系适用读者正在学习 / 开发 LLM Agent、RAG 系统的工程师。本文从概念、对比、存储底座、代码实现、优化手段五个层面把 Agent 记忆Memory与 RAG 的关系讲透。目录为什么 Agent 需要 “记忆” 和 “检索”概念基础RAG 与 Agent 记忆核心区别一张表 六个维度共同联系数据库是两者的底座记忆的实现方式含完整代码记忆与 RAG 的优化手段落地架构记忆 RAG Agent 如何配合总结与常见误区一、为什么 Agent 需要 “记忆” 和 “检索”大语言模型本身有三个天然缺陷上下文有限GPT 类模型的上下文窗口再大也有上限长对话必然溢出知识静态模型训练完成后知识就冻结了无法知道训练截止日之后的新事实无状态模型是 “一次性” 的 —— 每次调用都是独立函数不记得上一轮说过什么。RAG 和 Agent 记忆分别补上了两块短板缺陷对应解法作用知识静态、可能过时RAG检索增强生成把外部知识库实时检索出来注入 Prompt无状态、上下文有限Agent 记忆Memory把对话历史、用户偏好、状态持久化跨轮 / 跨会话复用一句话概括RAG 解决 “模型不知道” 的问题记忆解决 “模型不记得” 的问题。二、概念基础RAG 与 Agent 记忆2.1 RAG检索增强生成RAGRetrieval-Augmented Generation在生成前先检索外部知识把检索结果拼进 Prompt再让模型基于这些材料回答。\[文档库] ──▶ \[切分 Chunk] ──▶ \[Embedding 向量化] ──▶ (向量数据库) #x20; ▲ \[用户问题] ──▶ \[Query Embedding] ────────────────────────────┘ #x20; ▼ #x20; \[相似度检索 Top-K] ──▶ \[注入 Prompt] ──▶ \[LLM 生成回答]典型流程离线索引文档 → 切分chunk→ 向量化embedding→ 写入向量数据库在线检索用户问题 → 向量化 → 在向量库中找最相似的 Top-K 片段生成检索结果 问题 指令拼成 Prompt → LLM 输出。特点知识来源是外部静态文档可实时更新重新索引、可溯源引用原文、无需训练模型。2.2 Agent 记忆状态的持久化Agent 记忆把 “这个用户是谁、之前聊了什么、任务做到哪一步” 等运行时状态存下来让 Agent 表现出连续性和个性化。学术界把记忆分为四类参考认知科学对记忆的划分记忆类型英文含义存储形态短期记忆Short-term / Working Memory当前会话内上下文、任务中间状态上下文列表、缓存情景记忆Episodic Memory发生过的事件“上周帮用户改过合同”事件日志、向量库语义记忆Semantic Memory沉淀出的事实与偏好“用户是律师”键值表、向量库程序性记忆Procedural Memory技能 / 工具使用流程代码、Prompt 模板、工具描述特点数据来源是交互过程本身动态写入、持续演化、高度个性化。三、核心区别一张表 六个维度3.1 对比总表维度RAG检索增强生成Agent 记忆Memory要解决的问题模型知识不足 / 过时模型无状态 / 不连续数据来源外部知识库文档、网页、数据库记录交互历史对话、行为、反馈、状态写入方式批量索引离线 / 定时静态实时增量写入随对话演化读取方式每次问答都检索外部知识按需召回常与短期上下文拼接数据粒度文档块chunk面向 “知识”事件 / 事实 / 偏好 / 状态面向 “个体”时效性知识更新依赖重新索引天然反映最新交互个性化程度低同一知识库对所有用户一致高记忆是用户专属的可溯源强可引用原文出处弱记忆是加工后的摘要 / 事实生命周期知识库常驻随文档更新随用户关系长期演化可遗忘可沉淀典型存储向量数据库为主向量库 关系库 KV 图库组合3.2 六个关键差异点详解差异一回答的是不同问题RAG给模型喂 “知识”What。记忆给模型喂 “经历”Who / When / How。差异二数据的写路径不同RAG 是 “一次索引、多次读取”写操作低频记忆是 “每轮对话都在写”写操作高频且需要去重、冲突解决。差异三召回策略不同RAG 是 “必检”每轮都检索知识库除非命中缓存记忆是 “按需”需要时才从长期记忆召回日常对话主要用短期上下文。差异四个性化程度同一个 RAG 知识库服务所有用户答案一致记忆严格按用户隔离是 “千人千面” 的来源。差异五遗忘机制RAG 靠删除文档 / 重新索引实现 “遗忘”记忆需要专门的遗忘策略过期、重要性评分、用户主动删除。差异六失败模式RAG 失败检索不到相关内容 → 幻觉风险记忆失败召回错误记忆 → 答非所问或泄露历史信息。3.3 两者不能互相替代RAG 替代不了记忆RAG 不知道 “用户上次聊到哪了”无法跨轮保持上下文。记忆替代不了 RAG记忆是交互产物装不下企业知识库把公司全部文档写进记忆既贵又不可维护。正确姿势是组合短期记忆承载当前对话长期记忆承载个性化RAG 承载外部知识。\[用户] ──▶ \[Agent 主循环] ──┬──▶ \[短期记忆当前会话] #x20; ├──▶ \[长期记忆用户画像/历史] #x20; └──▶ \[RAG外部知识检索] #x20; │ #x20; ▼ #x20; \[Prompt 组装] ──▶ \[LLM] ──▶ \[输出并回写记忆]四、共同联系数据库是两者的底座RAG 和记忆的 “殊途同归” 点在于它们都是 “读数据库 → 拼 Prompt → 生成” 的模式区别只是存了什么、怎么索引。4.1 共同的架构位置┌─────────────── 数据层各类数据库 ───────────────┐ │ │ │ 向量数据库 关系型数据库 键值/缓存 图数据库 │ │ Chroma/FAISS MySQL/PG Redis Neo4j │ │ Milvus/pgvector │ │ │ │ 对象存储原始文档 / 历史归档S3、MinIO │ │ │ └──────────────────────┬───────────────────────────┘ #x20; │ #x20; ┌────────────┴────────────┐ #x20; ▼ ▼ #x20; \[RAG 管道] \[Agent 记忆层]4.2 数据库选型对照表数据库类型代表产品RAG 中承担的角色记忆中承担的角色向量数据库Chroma、FAISS、Milvus、Qdrant、Pinecone、pgvector存文档 chunk 的 embedding做相似度检索存历史对话 / 事件 / 事实的 embedding做语义召回关系型数据库PostgreSQL、MySQL、SQLite存文档元数据、chunk 归属、权限存用户表、偏好表、状态表、结构化事件键值 / 缓存Redis检索结果缓存、embedding 缓存短期记忆、会话状态、TTL 自动过期图数据库Neo4j、NebulaGraph知识图谱增强检索实体关系实体关系记忆“用户 A 与项目 B 的关系”对象存储S3、MinIO原始文档归档长音频 / 图片等非结构化历史4.3 关键点为什么 “向量数据库” 是交集两者都需要语义检索所以向量数据库成为最大交集RAGquery_embeddingvsdocument_chunk_embedding记忆query_embeddingvsmemory_item_embedding两者共用同一套 “Embedding → 近似最近邻ANN检索” 技术栈。这也是为什么很多框架LangChain、LlamaIndex里 RAG 检索器和记忆检索器的 API 几乎一样。五、记忆的实现方式含完整代码下面从简到繁给出 5 种记忆实现代码基于 Python依赖openai或任何兼容接口、chromadb、sqlite3。所有代码是可直接运行的骨架换掉 embedding 和 LLM 客户端即可上生产。5.1 短期记忆上下文窗口管理最基础短期记忆的核心是 “放得下”—— 用 token 预算管理上下文超出就丢最老的。短期记忆带 Token 预算的滑动窗口上下文管理 class ShortTermMemory: #x20; def \_\_init\_\_(self, max\_tokens: int 4000, encoderNone): #x20; self.messages \[] # \[{role: ..., content: ...}] #x20; self.max\_tokens max\_tokens #x20; # encoder: 传入分词器如 tiktoken / transformers 的 tokenizer #x20; self.\_encoder encoder #x20; def \_count\_tokens(self, text: str) - int: #x20; if self.\_encoder is None: #x20; # 兜底估算中英文混排约 1 字符 ≈ 0.6\~1 token #x20; return int(len(text) \* 0.8) #x20; return len(self.\_encoder.encode(text)) #x20; def add(self, role: str, content: str): #x20; self.messages.append({role: role, content: content}) #x20; self.\_trim() #x20; def \_trim(self): #x20; 超出预算时丢弃最老的中间消息始终保留 system 指令 #x20; keep \[m for m in self.messages if m\[role] system] #x20; rest \[m for m in self.messages if m\[role] ! system] #x20; total sum(self.\_count\_tokens(m\[content]) for m in keep) #x20; trimmed \[] #x20; for m in reversed(rest): # 从最新往旧加 #x20; total self.\_count\_tokens(m\[content]) #x20; if total self.max\_tokens: #x20; break #x20; trimmed.append(m) #x20; self.messages keep list(reversed(trimmed)) #x20; def get(self): #x20; return self.messages \# 使用示例 mem ShortTermMemory(max\_tokens2000) mem.add(system, 你是一个智能助手) mem.add(user, 我叫小明) mem.add(assistant, 你好小明) print(mem.get())局限只解决 “当前会话不溢出”跨会话就丢了。要跨会话需要下面几种长期记忆。5.2 长期记忆向量化存储 语义召回把历史对话切成条目embedding 后存进向量库新会话按问题语义召回相关记忆注入 Prompt。长期记忆向量库 语义召回使用 ChromaDB import chromadb from chromadb.utils import embedding\_functions class LongTermMemory: #x20; def \_\_init\_\_(self, collection\_name: str agent\_memory, #x20; embed\_modeltext-embedding-3-small): #x20; self.client chromadb.PersistentClient(path./memory\_db) #x20; self.ef embedding\_functions.OpenAIEmbeddingFunction( #x20; api\_keysk-xxx, model\_nameembed\_model #x20; ) #x20; \# 若已有同名 collection 则复用 #x20; try: #x20; self.col self.client.get\_collection( #x20; collection\_name, embedding\_functionself.ef) #x20; except Exception: #x20; self.col self.client.create\_collection( #x20; collection\_name, embedding\_functionself.ef) #x20; def write(self, memory\_id: str, text: str, metadata: dict None): #x20; 写入一条记忆文本 元数据时间、用户、类型 #x20; self.col.upsert( #x20; ids\[memory\_id], #x20; documents\[text], #x20; metadatas\[metadata or {time: , type: fact}], #x20; ) #x20; def recall(self, query: str, top\_k: int 5, user\_id: str None) - list: #x20; 按语义召回记忆可加 where 条件过滤用户 #x20; where {user\_id: user\_id} if user\_id else None #x20; res self.col.query( #x20; query\_texts\[query], n\_resultstop\_k, wherewhere #x20; ) #x20; return res\[documents]\[0] #x20; def forget(self, memory\_id: str): #x20; self.col.delete(ids\[memory\_id]) \# 使用示例 mem LongTermMemory() mem.write(u1-pref-1, 用户是前端工程师主用 TypeScript, #x20; {user\_id: u1, type: preference}) mem.write(u1-hist-1, 上周用户问过 React 服务端渲染的优化方案, #x20; {user\_id: u1, type: episode}) hits mem.recall(用户做什么开发, user\_idu1) print(hits) # \[用户是前端工程师主用 TypeScript, ...]关键设计点每条记忆要有user_id严格按用户隔离记忆是隐私数据元数据至少包含类型偏好 / 事件 / 事实、时间戳、来源upsert保证重复写入以 id 去重。5.3 摘要记忆滚动压缩长对话不丢信息对话太长时与其丢掉老内容不如让模型把老内容压缩成摘要再存下来。摘要记忆滚动对话摘要LangChain 风格手写版 class SummaryMemory: #x20; def \_\_init\_\_(self, llm\_client, summarize\_prompt: str None): #x20; self.llm llm\_client # 任意 LLM 客户端 #x20; self.summary # 已积累的摘要 #x20; self.buffer \[] # 待处理的近期对话 #x20; self.buffer\_limit 6 # 每 6 轮压缩一次 #x20; self.summarize\_prompt summarize\_prompt or ( #x20; 把下面对话压缩为不超过 3 句话的摘要保留关键事实、决定和用户偏好。\n #x20; 已有摘要{summary}\n新增对话\n{buffer} #x20; ) #x20; def add(self, role: str, content: str): #x20; self.buffer.append({role: role, content: content}) #x20; if len(self.buffer) self.buffer\_limit: #x20; self.\_compress() #x20; def \_compress(self): #x20; prompt self.summarize\_prompt.format( #x20; summaryself.summary, #x20; buffer\n.join(f{m\[role]}: {m\[content]} for m in self.buffer), #x20; ) #x20; self.summary self.llm.chat(prompt) # 伪代码换真实客户端 #x20; self.buffer \[] #x20; def build\_prompt(self) - str: #x20; 组装给 Agent 的上下文摘要 近期缓冲 #x20; recent \n.join(f{m\[role]}: {m\[content]} for m in self.buffer) #x20; return f\[历史摘要]\n{self.summary}\n\[近期对话]\n{recent}特点上下文占用从 O (对话轮数) 降到 O (摘要长度)但摘要过程有信息损耗适合与向量记忆配合使用。5.4 结构化记忆SQL 存事实与状态偏好、任务状态这类 “结构化事实” 适合用关系型数据库便于精确查询和统计。结构化记忆SQLite 存用户偏好与任务状态 import sqlite3 import json class StructuredMemory: #x20; def \_\_init\_\_(self, db\_path: str agent\_state.db): #x20; self.conn sqlite3.connect(db\_path) #x20; self.conn.execute( #x20; CREATE TABLE IF NOT EXISTS memories ( #x20; user\_id TEXT NOT NULL, #x20; key TEXT NOT NULL, #x20; value TEXT NOT NULL, -- JSON 序列化 #x20; updated\_at TEXT DEFAULT (datetime(now)), #x20; PRIMARY KEY (user\_id, key) #x20; ) #x20; ) #x20; self.conn.commit() #x20; def set(self, user\_id: str, key: str, value): #x20; self.conn.execute( #x20; INSERT OR REPLACE INTO memories (user\_id, key, value) VALUES (?,?,?), #x20; (user\_id, key, json.dumps(value, ensure\_asciiFalse)), #x20; ) #x20; self.conn.commit() #x20; def get(self, user\_id: str, key: str): #x20; row self.conn.execute( #x20; SELECT value FROM memories WHERE user\_id? AND key?, #x20; (user\_id, key), #x20; ).fetchone() #x20; return json.loads(row\[0]) if row else None #x20; def query\_by\_type(self, user\_id: str, key\_prefix: str): #x20; 按前缀查一类记忆例如 key 用 pref.\* / task.\* 命名空间 #x20; rows self.conn.execute( #x20; SELECT key, value FROM memories WHERE user\_id? AND key LIKE ?, #x20; (user\_id, key\_prefix %), #x20; ).fetchall() #x20; return {k: json.loads(v) for k, v in rows} \# 使用示例 sm StructuredMemory() sm.set(u1, pref.language, 中文) sm.set(u1, task.current, {id: 42, step: review}) print(sm.get(u1, pref.language)) # 中文 print(sm.query\_by\_type(u1, task.)) # {task.current: {...}}要点用key做命名空间pref.*、task.*、fact.*写入用INSERT OR REPLACE天然去重。5.5 完整的最小 Agent 记忆系统把上面几种组合成一个可运行的最小 Agent短期窗口 长期向量记忆 结构化偏好。最小完整 Agent短期 长期 结构化记忆组合 from dataclasses import dataclass, field dataclass class MinimalAgent: #x20; short: ShortTermMemory field(default\_factoryShortTermMemory) #x20; long: LongTermMemory field(default\_factoryLongTermMemory) #x20; structured: StructuredMemory field(default\_factoryStructuredMemory) #x20; user\_id: str default\_user #x20; def run(self, user\_input: str) - str: #x20; \# 1) 从长期记忆召回相关历史语义 #x20; recalled self.long.recall(user\_input, top\_k3, user\_idself.user\_id) #x20; \# 2) 读取结构化偏好 #x20; prefs self.structured.query\_by\_type(self.user\_id, pref.) #x20; \# 3) 组装上下文 #x20; context { #x20; recalled\_memories: recalled, #x20; preferences: prefs, #x20; } #x20; \# 4) 此处调用 LLMprompt 系统指令 context 短期窗口 #x20; \# response llm.chat(prompt) # 伪代码 #x20; response f\[模拟回复] 召回 {len(recalled)} 条记忆 #x20; \# 5) 写入短期记忆并把重要信息沉淀到长期记忆 #x20; self.short.add(user, user\_input) #x20; self.short.add(assistant, response) #x20; self.\_consolidate(user\_input, response) #x20; return response #x20; def \_consolidate(self, user\_input: str, response: str): #x20; 把本轮对话沉淀为长期记忆条目生产环境应由 LLM 抽取要点 #x20; memory\_id f{self.user\_id}-{hash(user\_input) % 100000} #x20; self.long.write( #x20; memory\_id, #x20; f用户说{user\_input}助手答{response}, #x20; {user\_id: self.user\_id, type: episode}, #x20; )运行闭环每轮对话 召回 → 组装 → 生成 → 写入 → 沉淀。六、记忆与 RAG 的优化手段6.1 检索优化RAG 和记忆共用1混合检索向量 关键词BM25纯向量检索对专有名词、代码、ID 类查询不敏感混合检索可显著提升召回率。混合检索向量召回 BM25 关键词召回 融合 from rank\_bm25 import BM25Okapi def hybrid\_search(query: str, chunks: list, embed\_fn, top\_k: int 5): #x20; chunks: 候选片段列表或直接从向量库取更大召回集再融合 #x20; \# 向量召回此处简化为两两相似度生产用向量库 ANN #x20; import numpy as np #x20; q\_vec embed\_fn(\[query])\[0] #x20; c\_vecs embed\_fn(chunks) #x20; vec\_scores (c\_vecs q\_vec).tolist() # 余弦相似度 #x20; \# 关键词召回 #x20; tokenized \[c.split() for c in chunks] #x20; bm25 BM25Okapi(tokenized) #x20; bm25\_scores bm25.get\_scores(query.split()) #x20; \# 融合归一化后加权相加RRF 更稳健见下 #x20; v\_norm np.array(vec\_scores) / max(np.max(vec\_scores), 1e-9) #x20; b\_norm np.array(bm25\_scores) / max(np.max(bm25\_scores), 1e-9) #x20; fused 0.7 \* v\_norm 0.3 \* b\_norm #x20; idx np.argsort(fused)\[::-1]\[:top\_k] #x20; return \[chunks\[i] for i in idx]2Rerank 重排序先粗召回 Top-100再用重排模型如 Cohere Rerank /bge-reranker精排 Top-5精度提升明显。\# 伪代码粗召回 → 精排 def retrieve\_with\_rerank(query, candidate\_ids, rerank\_fn, top\_k5): #x20; candidates \[load\_chunk(i) for i in candidate\_ids] # 粗召回 Top-100 #x20; scores rerank\_fn(query, candidates) # 重排模型打分 #x20; ordered \[c for \_, c in sorted(zip(scores, candidates), reverseTrue)] #x20; return ordered\[:top\_k]3查询改写Query Rewrite对口语化 / 指代不明的问题先让 LLM 改写 / 生成多个子查询HyDE 生成假设文档再检索。6.2 写入优化记忆特有1记忆整合Consolidation高频相似记忆 → 定期合并成更高层的摘要避免记忆碎片化。记忆整合定期把同类记忆合并为一条 def consolidate\_memories(memories: list, llm\_client) - str: #x20; memories: 同一主题的多条原始记忆 - 返回合并摘要 #x20; joined \n.join(f- {m} for m in memories) #x20; prompt (以下是与同一主题相关的记忆请合并去重提炼成不超过 100 字的 #x20; f总结保留所有不重复的事实\n{joined}) #x20; return llm\_client.chat(prompt)2记忆评分与遗忘给每条记忆打 “重要性 最近使用” 分低分 / 过期记忆定期清理或降级归档。参考 Ebbinghaus 遗忘曲线思路长期未使用的记忆降权。记忆评分重要性 × 新鲜度低于阈值则遗忘 import time def memory\_score(importance: float, last\_accessed: float, now: float, #x20; half\_life: float 30 \* 86400) - float: #x20; half\_life: 30 天越久没访问新鲜度衰减越快 #x20; freshness 0.5 \*\* ((now - last\_accessed) / half\_life) #x20; return importance \* freshness \# 示例重要性 0.910 天未访问 score memory\_score(0.9, time.time() - 10 \* 86400, time.time()) \# 若 score 0.2 - 删除或移动到冷存储3冲突解决同一事实的新旧记忆矛盾时默认 “新值覆盖旧值”但保留旧值到审计表。6.3 成本优化手段做法收益上下文压缩摘要记忆 / 关键信息抽取后再入 Prompt大幅降低 token 成本缓存Redis 缓存相同问题的检索结果 / LLM 回复命中率提升后延迟和费用双降记忆分级热记忆常用常驻冷记忆低频存廉价存储控制向量库规模增量索引RAG 只重索引变更文档而非全量重建减少索引成本6.4 架构优化分层记忆 反思\[每轮对话] ──▶ 是否重要? #x20; │是 │否 #x20; ▼ ▼ #x20; \[工作记忆·短期] \[丢弃/极简记录] #x20; │ #x20; ▼ #x20; \[定期整合 Consolidation] #x20; │ #x20; ▼ #x20; \[语义记忆·长期向量库] ──▶ \[按需召回] #x20; │ #x20; ▼ #x20; \[反思LLM 提炼用户画像] ──▶ \[用户画像·结构化存储] ──▶ \[按需召回]反思机制Reflection不是直接存原始对话而是定期让 LLM 从多轮对话中提炼用户画像“用户偏好深度优先的答案” 用户反感空话 画像比原始对话更精炼、更好用。这也是 MemGPT /mem0 等框架的核心思想之一。七、落地架构记忆 RAG Agent 如何配合7.1 分层上下文组装生产级参考\[用户输入] ──▶ \[意图/路由] ──┬──▶ 需要外部知识? #x20; │ │是 │否 #x20; │ ▼ ▼ #x20; │ \[RAG 检索] \[仅用记忆] #x20; │ 文档向量库 #x20; ▼ #x20; \[记忆召回短期窗口 长期语义 画像] #x20; ▼ #x20; \[Prompt 组装系统指令 记忆 检索片段 当前问题] #x20; ▼ #x20; \[LLM] ──▶ \[输出] ──▶ \[写入闭环更新短期/长期记忆]7.2 代码RAG 记忆同框的最小 AgentAgent 短期记忆 长期记忆 RAG 检索组合示例 class RagMemoryAgent: #x20; def \_\_init\_\_(self, llm, vector\_db, doc\_store, memory\_long): #x20; self.llm llm #x20; self.vector\_db vector\_db # 文档向量库RAG 用 #x20; self.doc\_store doc\_store # 文档原始内容 #x20; self.memory\_long memory\_long # 记忆向量库 #x20; self.history \[] # 短期记忆 #x20; def answer(self, question: str, user\_id: str) - str: #x20; \# 1) 记忆召回 #x20; memories self.memory\_long.recall(question, top\_k3, user\_iduser\_id) #x20; \# 2) RAG 检索 #x20; doc\_ids self.vector\_db.query(question, top\_k3) #x20; passages \[self.doc\_store.get(i) for i in doc\_ids] #x20; \# 3) 组装分层记忆在前知识在后问题在最后 #x20; prompt \n.join(\[ #x20; \[用户相关记忆], #x20; \*memories, #x20; , #x20; \[参考资料], #x20; \*passages, #x20; , #x20; \[当前问题] question, #x20; ]) #x20; answer self.llm.chat(prompt) #x20; \# 4) 写回记忆 #x20; self.history.append((question, answer)) #x20; self.memory\_long.write(f{user\_id}-{len(self.history)}, #x20; fQ:{question}\nA:{answer}, #x20; {user\_id: user\_id, type: episode}) #x20; return answer组装顺序经验系统指令 → 用户记忆个性化 → 检索知识事实依据 → 短期上下文 → 当前问题。记忆与知识之间用分隔符区分防止模型混淆来源。八、总结与常见误区8.1 一句话总结RAG 和 Agent 记忆是 “同一套检索 - 生成架构的两个实例”RAG 检索外部知识记忆检索内部经历它们的共同底座是数据库尤其向量数据库差别在于数据来源、写入方式、个性化程度和生命周期。8.2 常见误区“给 Agent 配了 RAG 就不需要记忆”—— 错RAG 不解决连续性和个性化“记忆就是把所有对话塞进 Prompt”—— 错上下文会溢出必须压缩 / 检索 / 分级“记忆只能存向量库”—— 错偏好和状态适合 SQL热点会话适合 Redis实体关系适合图库“RAG 和记忆是同义词”—— 错前者解决知识后者解决状态二者互补而非互斥“记忆越多越好”—— 错脏数据、过期数据、隐私数据会拉低效果甚至造成泄露必须有写入治理和遗忘机制。8.3 选型速查你的场景优先方案回答基于公司知识库的问题RAG 向量数据库跨会话记住用户偏好结构化记忆SQL 用户画像长对话不丢上下文短期窗口 滚动摘要让 Agent 记住 “做过的事”情景记忆向量库 元数据全部都要分层记忆 RAG 组合架构参考与延伸阅读LangChain 文档Memory 模块ConversationBufferMemory / SummaryMemory 等MemGPTLetta分层记忆 自我编辑记忆的开源框架mem0面向 Agent 的长期记忆层支持向量库 / 图库后端《Retrieval-Augmented Generation for Large Language Models: A Survey》Gao et al.LlamaIndexRAG 与 Agent 记忆统一抽象Memory / ChatMemoryBuffer注文中代码为教学骨架生产使用请补充鉴权、限流、隐私脱敏、数据备份与合规如 GDPR 对用户数据删除权的支持。
Agent记忆与RAG对比学习笔记
Agent 记忆与 RAG的区别与联系适用读者正在学习 / 开发 LLM Agent、RAG 系统的工程师。本文从概念、对比、存储底座、代码实现、优化手段五个层面把 Agent 记忆Memory与 RAG 的关系讲透。目录为什么 Agent 需要 “记忆” 和 “检索”概念基础RAG 与 Agent 记忆核心区别一张表 六个维度共同联系数据库是两者的底座记忆的实现方式含完整代码记忆与 RAG 的优化手段落地架构记忆 RAG Agent 如何配合总结与常见误区一、为什么 Agent 需要 “记忆” 和 “检索”大语言模型本身有三个天然缺陷上下文有限GPT 类模型的上下文窗口再大也有上限长对话必然溢出知识静态模型训练完成后知识就冻结了无法知道训练截止日之后的新事实无状态模型是 “一次性” 的 —— 每次调用都是独立函数不记得上一轮说过什么。RAG 和 Agent 记忆分别补上了两块短板缺陷对应解法作用知识静态、可能过时RAG检索增强生成把外部知识库实时检索出来注入 Prompt无状态、上下文有限Agent 记忆Memory把对话历史、用户偏好、状态持久化跨轮 / 跨会话复用一句话概括RAG 解决 “模型不知道” 的问题记忆解决 “模型不记得” 的问题。二、概念基础RAG 与 Agent 记忆2.1 RAG检索增强生成RAGRetrieval-Augmented Generation在生成前先检索外部知识把检索结果拼进 Prompt再让模型基于这些材料回答。\[文档库] ──▶ \[切分 Chunk] ──▶ \[Embedding 向量化] ──▶ (向量数据库) #x20; ▲ \[用户问题] ──▶ \[Query Embedding] ────────────────────────────┘ #x20; ▼ #x20; \[相似度检索 Top-K] ──▶ \[注入 Prompt] ──▶ \[LLM 生成回答]典型流程离线索引文档 → 切分chunk→ 向量化embedding→ 写入向量数据库在线检索用户问题 → 向量化 → 在向量库中找最相似的 Top-K 片段生成检索结果 问题 指令拼成 Prompt → LLM 输出。特点知识来源是外部静态文档可实时更新重新索引、可溯源引用原文、无需训练模型。2.2 Agent 记忆状态的持久化Agent 记忆把 “这个用户是谁、之前聊了什么、任务做到哪一步” 等运行时状态存下来让 Agent 表现出连续性和个性化。学术界把记忆分为四类参考认知科学对记忆的划分记忆类型英文含义存储形态短期记忆Short-term / Working Memory当前会话内上下文、任务中间状态上下文列表、缓存情景记忆Episodic Memory发生过的事件“上周帮用户改过合同”事件日志、向量库语义记忆Semantic Memory沉淀出的事实与偏好“用户是律师”键值表、向量库程序性记忆Procedural Memory技能 / 工具使用流程代码、Prompt 模板、工具描述特点数据来源是交互过程本身动态写入、持续演化、高度个性化。三、核心区别一张表 六个维度3.1 对比总表维度RAG检索增强生成Agent 记忆Memory要解决的问题模型知识不足 / 过时模型无状态 / 不连续数据来源外部知识库文档、网页、数据库记录交互历史对话、行为、反馈、状态写入方式批量索引离线 / 定时静态实时增量写入随对话演化读取方式每次问答都检索外部知识按需召回常与短期上下文拼接数据粒度文档块chunk面向 “知识”事件 / 事实 / 偏好 / 状态面向 “个体”时效性知识更新依赖重新索引天然反映最新交互个性化程度低同一知识库对所有用户一致高记忆是用户专属的可溯源强可引用原文出处弱记忆是加工后的摘要 / 事实生命周期知识库常驻随文档更新随用户关系长期演化可遗忘可沉淀典型存储向量数据库为主向量库 关系库 KV 图库组合3.2 六个关键差异点详解差异一回答的是不同问题RAG给模型喂 “知识”What。记忆给模型喂 “经历”Who / When / How。差异二数据的写路径不同RAG 是 “一次索引、多次读取”写操作低频记忆是 “每轮对话都在写”写操作高频且需要去重、冲突解决。差异三召回策略不同RAG 是 “必检”每轮都检索知识库除非命中缓存记忆是 “按需”需要时才从长期记忆召回日常对话主要用短期上下文。差异四个性化程度同一个 RAG 知识库服务所有用户答案一致记忆严格按用户隔离是 “千人千面” 的来源。差异五遗忘机制RAG 靠删除文档 / 重新索引实现 “遗忘”记忆需要专门的遗忘策略过期、重要性评分、用户主动删除。差异六失败模式RAG 失败检索不到相关内容 → 幻觉风险记忆失败召回错误记忆 → 答非所问或泄露历史信息。3.3 两者不能互相替代RAG 替代不了记忆RAG 不知道 “用户上次聊到哪了”无法跨轮保持上下文。记忆替代不了 RAG记忆是交互产物装不下企业知识库把公司全部文档写进记忆既贵又不可维护。正确姿势是组合短期记忆承载当前对话长期记忆承载个性化RAG 承载外部知识。\[用户] ──▶ \[Agent 主循环] ──┬──▶ \[短期记忆当前会话] #x20; ├──▶ \[长期记忆用户画像/历史] #x20; └──▶ \[RAG外部知识检索] #x20; │ #x20; ▼ #x20; \[Prompt 组装] ──▶ \[LLM] ──▶ \[输出并回写记忆]四、共同联系数据库是两者的底座RAG 和记忆的 “殊途同归” 点在于它们都是 “读数据库 → 拼 Prompt → 生成” 的模式区别只是存了什么、怎么索引。4.1 共同的架构位置┌─────────────── 数据层各类数据库 ───────────────┐ │ │ │ 向量数据库 关系型数据库 键值/缓存 图数据库 │ │ Chroma/FAISS MySQL/PG Redis Neo4j │ │ Milvus/pgvector │ │ │ │ 对象存储原始文档 / 历史归档S3、MinIO │ │ │ └──────────────────────┬───────────────────────────┘ #x20; │ #x20; ┌────────────┴────────────┐ #x20; ▼ ▼ #x20; \[RAG 管道] \[Agent 记忆层]4.2 数据库选型对照表数据库类型代表产品RAG 中承担的角色记忆中承担的角色向量数据库Chroma、FAISS、Milvus、Qdrant、Pinecone、pgvector存文档 chunk 的 embedding做相似度检索存历史对话 / 事件 / 事实的 embedding做语义召回关系型数据库PostgreSQL、MySQL、SQLite存文档元数据、chunk 归属、权限存用户表、偏好表、状态表、结构化事件键值 / 缓存Redis检索结果缓存、embedding 缓存短期记忆、会话状态、TTL 自动过期图数据库Neo4j、NebulaGraph知识图谱增强检索实体关系实体关系记忆“用户 A 与项目 B 的关系”对象存储S3、MinIO原始文档归档长音频 / 图片等非结构化历史4.3 关键点为什么 “向量数据库” 是交集两者都需要语义检索所以向量数据库成为最大交集RAGquery_embeddingvsdocument_chunk_embedding记忆query_embeddingvsmemory_item_embedding两者共用同一套 “Embedding → 近似最近邻ANN检索” 技术栈。这也是为什么很多框架LangChain、LlamaIndex里 RAG 检索器和记忆检索器的 API 几乎一样。五、记忆的实现方式含完整代码下面从简到繁给出 5 种记忆实现代码基于 Python依赖openai或任何兼容接口、chromadb、sqlite3。所有代码是可直接运行的骨架换掉 embedding 和 LLM 客户端即可上生产。5.1 短期记忆上下文窗口管理最基础短期记忆的核心是 “放得下”—— 用 token 预算管理上下文超出就丢最老的。短期记忆带 Token 预算的滑动窗口上下文管理 class ShortTermMemory: #x20; def \_\_init\_\_(self, max\_tokens: int 4000, encoderNone): #x20; self.messages \[] # \[{role: ..., content: ...}] #x20; self.max\_tokens max\_tokens #x20; # encoder: 传入分词器如 tiktoken / transformers 的 tokenizer #x20; self.\_encoder encoder #x20; def \_count\_tokens(self, text: str) - int: #x20; if self.\_encoder is None: #x20; # 兜底估算中英文混排约 1 字符 ≈ 0.6\~1 token #x20; return int(len(text) \* 0.8) #x20; return len(self.\_encoder.encode(text)) #x20; def add(self, role: str, content: str): #x20; self.messages.append({role: role, content: content}) #x20; self.\_trim() #x20; def \_trim(self): #x20; 超出预算时丢弃最老的中间消息始终保留 system 指令 #x20; keep \[m for m in self.messages if m\[role] system] #x20; rest \[m for m in self.messages if m\[role] ! system] #x20; total sum(self.\_count\_tokens(m\[content]) for m in keep) #x20; trimmed \[] #x20; for m in reversed(rest): # 从最新往旧加 #x20; total self.\_count\_tokens(m\[content]) #x20; if total self.max\_tokens: #x20; break #x20; trimmed.append(m) #x20; self.messages keep list(reversed(trimmed)) #x20; def get(self): #x20; return self.messages \# 使用示例 mem ShortTermMemory(max\_tokens2000) mem.add(system, 你是一个智能助手) mem.add(user, 我叫小明) mem.add(assistant, 你好小明) print(mem.get())局限只解决 “当前会话不溢出”跨会话就丢了。要跨会话需要下面几种长期记忆。5.2 长期记忆向量化存储 语义召回把历史对话切成条目embedding 后存进向量库新会话按问题语义召回相关记忆注入 Prompt。长期记忆向量库 语义召回使用 ChromaDB import chromadb from chromadb.utils import embedding\_functions class LongTermMemory: #x20; def \_\_init\_\_(self, collection\_name: str agent\_memory, #x20; embed\_modeltext-embedding-3-small): #x20; self.client chromadb.PersistentClient(path./memory\_db) #x20; self.ef embedding\_functions.OpenAIEmbeddingFunction( #x20; api\_keysk-xxx, model\_nameembed\_model #x20; ) #x20; \# 若已有同名 collection 则复用 #x20; try: #x20; self.col self.client.get\_collection( #x20; collection\_name, embedding\_functionself.ef) #x20; except Exception: #x20; self.col self.client.create\_collection( #x20; collection\_name, embedding\_functionself.ef) #x20; def write(self, memory\_id: str, text: str, metadata: dict None): #x20; 写入一条记忆文本 元数据时间、用户、类型 #x20; self.col.upsert( #x20; ids\[memory\_id], #x20; documents\[text], #x20; metadatas\[metadata or {time: , type: fact}], #x20; ) #x20; def recall(self, query: str, top\_k: int 5, user\_id: str None) - list: #x20; 按语义召回记忆可加 where 条件过滤用户 #x20; where {user\_id: user\_id} if user\_id else None #x20; res self.col.query( #x20; query\_texts\[query], n\_resultstop\_k, wherewhere #x20; ) #x20; return res\[documents]\[0] #x20; def forget(self, memory\_id: str): #x20; self.col.delete(ids\[memory\_id]) \# 使用示例 mem LongTermMemory() mem.write(u1-pref-1, 用户是前端工程师主用 TypeScript, #x20; {user\_id: u1, type: preference}) mem.write(u1-hist-1, 上周用户问过 React 服务端渲染的优化方案, #x20; {user\_id: u1, type: episode}) hits mem.recall(用户做什么开发, user\_idu1) print(hits) # \[用户是前端工程师主用 TypeScript, ...]关键设计点每条记忆要有user_id严格按用户隔离记忆是隐私数据元数据至少包含类型偏好 / 事件 / 事实、时间戳、来源upsert保证重复写入以 id 去重。5.3 摘要记忆滚动压缩长对话不丢信息对话太长时与其丢掉老内容不如让模型把老内容压缩成摘要再存下来。摘要记忆滚动对话摘要LangChain 风格手写版 class SummaryMemory: #x20; def \_\_init\_\_(self, llm\_client, summarize\_prompt: str None): #x20; self.llm llm\_client # 任意 LLM 客户端 #x20; self.summary # 已积累的摘要 #x20; self.buffer \[] # 待处理的近期对话 #x20; self.buffer\_limit 6 # 每 6 轮压缩一次 #x20; self.summarize\_prompt summarize\_prompt or ( #x20; 把下面对话压缩为不超过 3 句话的摘要保留关键事实、决定和用户偏好。\n #x20; 已有摘要{summary}\n新增对话\n{buffer} #x20; ) #x20; def add(self, role: str, content: str): #x20; self.buffer.append({role: role, content: content}) #x20; if len(self.buffer) self.buffer\_limit: #x20; self.\_compress() #x20; def \_compress(self): #x20; prompt self.summarize\_prompt.format( #x20; summaryself.summary, #x20; buffer\n.join(f{m\[role]}: {m\[content]} for m in self.buffer), #x20; ) #x20; self.summary self.llm.chat(prompt) # 伪代码换真实客户端 #x20; self.buffer \[] #x20; def build\_prompt(self) - str: #x20; 组装给 Agent 的上下文摘要 近期缓冲 #x20; recent \n.join(f{m\[role]}: {m\[content]} for m in self.buffer) #x20; return f\[历史摘要]\n{self.summary}\n\[近期对话]\n{recent}特点上下文占用从 O (对话轮数) 降到 O (摘要长度)但摘要过程有信息损耗适合与向量记忆配合使用。5.4 结构化记忆SQL 存事实与状态偏好、任务状态这类 “结构化事实” 适合用关系型数据库便于精确查询和统计。结构化记忆SQLite 存用户偏好与任务状态 import sqlite3 import json class StructuredMemory: #x20; def \_\_init\_\_(self, db\_path: str agent\_state.db): #x20; self.conn sqlite3.connect(db\_path) #x20; self.conn.execute( #x20; CREATE TABLE IF NOT EXISTS memories ( #x20; user\_id TEXT NOT NULL, #x20; key TEXT NOT NULL, #x20; value TEXT NOT NULL, -- JSON 序列化 #x20; updated\_at TEXT DEFAULT (datetime(now)), #x20; PRIMARY KEY (user\_id, key) #x20; ) #x20; ) #x20; self.conn.commit() #x20; def set(self, user\_id: str, key: str, value): #x20; self.conn.execute( #x20; INSERT OR REPLACE INTO memories (user\_id, key, value) VALUES (?,?,?), #x20; (user\_id, key, json.dumps(value, ensure\_asciiFalse)), #x20; ) #x20; self.conn.commit() #x20; def get(self, user\_id: str, key: str): #x20; row self.conn.execute( #x20; SELECT value FROM memories WHERE user\_id? AND key?, #x20; (user\_id, key), #x20; ).fetchone() #x20; return json.loads(row\[0]) if row else None #x20; def query\_by\_type(self, user\_id: str, key\_prefix: str): #x20; 按前缀查一类记忆例如 key 用 pref.\* / task.\* 命名空间 #x20; rows self.conn.execute( #x20; SELECT key, value FROM memories WHERE user\_id? AND key LIKE ?, #x20; (user\_id, key\_prefix %), #x20; ).fetchall() #x20; return {k: json.loads(v) for k, v in rows} \# 使用示例 sm StructuredMemory() sm.set(u1, pref.language, 中文) sm.set(u1, task.current, {id: 42, step: review}) print(sm.get(u1, pref.language)) # 中文 print(sm.query\_by\_type(u1, task.)) # {task.current: {...}}要点用key做命名空间pref.*、task.*、fact.*写入用INSERT OR REPLACE天然去重。5.5 完整的最小 Agent 记忆系统把上面几种组合成一个可运行的最小 Agent短期窗口 长期向量记忆 结构化偏好。最小完整 Agent短期 长期 结构化记忆组合 from dataclasses import dataclass, field dataclass class MinimalAgent: #x20; short: ShortTermMemory field(default\_factoryShortTermMemory) #x20; long: LongTermMemory field(default\_factoryLongTermMemory) #x20; structured: StructuredMemory field(default\_factoryStructuredMemory) #x20; user\_id: str default\_user #x20; def run(self, user\_input: str) - str: #x20; \# 1) 从长期记忆召回相关历史语义 #x20; recalled self.long.recall(user\_input, top\_k3, user\_idself.user\_id) #x20; \# 2) 读取结构化偏好 #x20; prefs self.structured.query\_by\_type(self.user\_id, pref.) #x20; \# 3) 组装上下文 #x20; context { #x20; recalled\_memories: recalled, #x20; preferences: prefs, #x20; } #x20; \# 4) 此处调用 LLMprompt 系统指令 context 短期窗口 #x20; \# response llm.chat(prompt) # 伪代码 #x20; response f\[模拟回复] 召回 {len(recalled)} 条记忆 #x20; \# 5) 写入短期记忆并把重要信息沉淀到长期记忆 #x20; self.short.add(user, user\_input) #x20; self.short.add(assistant, response) #x20; self.\_consolidate(user\_input, response) #x20; return response #x20; def \_consolidate(self, user\_input: str, response: str): #x20; 把本轮对话沉淀为长期记忆条目生产环境应由 LLM 抽取要点 #x20; memory\_id f{self.user\_id}-{hash(user\_input) % 100000} #x20; self.long.write( #x20; memory\_id, #x20; f用户说{user\_input}助手答{response}, #x20; {user\_id: self.user\_id, type: episode}, #x20; )运行闭环每轮对话 召回 → 组装 → 生成 → 写入 → 沉淀。六、记忆与 RAG 的优化手段6.1 检索优化RAG 和记忆共用1混合检索向量 关键词BM25纯向量检索对专有名词、代码、ID 类查询不敏感混合检索可显著提升召回率。混合检索向量召回 BM25 关键词召回 融合 from rank\_bm25 import BM25Okapi def hybrid\_search(query: str, chunks: list, embed\_fn, top\_k: int 5): #x20; chunks: 候选片段列表或直接从向量库取更大召回集再融合 #x20; \# 向量召回此处简化为两两相似度生产用向量库 ANN #x20; import numpy as np #x20; q\_vec embed\_fn(\[query])\[0] #x20; c\_vecs embed\_fn(chunks) #x20; vec\_scores (c\_vecs q\_vec).tolist() # 余弦相似度 #x20; \# 关键词召回 #x20; tokenized \[c.split() for c in chunks] #x20; bm25 BM25Okapi(tokenized) #x20; bm25\_scores bm25.get\_scores(query.split()) #x20; \# 融合归一化后加权相加RRF 更稳健见下 #x20; v\_norm np.array(vec\_scores) / max(np.max(vec\_scores), 1e-9) #x20; b\_norm np.array(bm25\_scores) / max(np.max(bm25\_scores), 1e-9) #x20; fused 0.7 \* v\_norm 0.3 \* b\_norm #x20; idx np.argsort(fused)\[::-1]\[:top\_k] #x20; return \[chunks\[i] for i in idx]2Rerank 重排序先粗召回 Top-100再用重排模型如 Cohere Rerank /bge-reranker精排 Top-5精度提升明显。\# 伪代码粗召回 → 精排 def retrieve\_with\_rerank(query, candidate\_ids, rerank\_fn, top\_k5): #x20; candidates \[load\_chunk(i) for i in candidate\_ids] # 粗召回 Top-100 #x20; scores rerank\_fn(query, candidates) # 重排模型打分 #x20; ordered \[c for \_, c in sorted(zip(scores, candidates), reverseTrue)] #x20; return ordered\[:top\_k]3查询改写Query Rewrite对口语化 / 指代不明的问题先让 LLM 改写 / 生成多个子查询HyDE 生成假设文档再检索。6.2 写入优化记忆特有1记忆整合Consolidation高频相似记忆 → 定期合并成更高层的摘要避免记忆碎片化。记忆整合定期把同类记忆合并为一条 def consolidate\_memories(memories: list, llm\_client) - str: #x20; memories: 同一主题的多条原始记忆 - 返回合并摘要 #x20; joined \n.join(f- {m} for m in memories) #x20; prompt (以下是与同一主题相关的记忆请合并去重提炼成不超过 100 字的 #x20; f总结保留所有不重复的事实\n{joined}) #x20; return llm\_client.chat(prompt)2记忆评分与遗忘给每条记忆打 “重要性 最近使用” 分低分 / 过期记忆定期清理或降级归档。参考 Ebbinghaus 遗忘曲线思路长期未使用的记忆降权。记忆评分重要性 × 新鲜度低于阈值则遗忘 import time def memory\_score(importance: float, last\_accessed: float, now: float, #x20; half\_life: float 30 \* 86400) - float: #x20; half\_life: 30 天越久没访问新鲜度衰减越快 #x20; freshness 0.5 \*\* ((now - last\_accessed) / half\_life) #x20; return importance \* freshness \# 示例重要性 0.910 天未访问 score memory\_score(0.9, time.time() - 10 \* 86400, time.time()) \# 若 score 0.2 - 删除或移动到冷存储3冲突解决同一事实的新旧记忆矛盾时默认 “新值覆盖旧值”但保留旧值到审计表。6.3 成本优化手段做法收益上下文压缩摘要记忆 / 关键信息抽取后再入 Prompt大幅降低 token 成本缓存Redis 缓存相同问题的检索结果 / LLM 回复命中率提升后延迟和费用双降记忆分级热记忆常用常驻冷记忆低频存廉价存储控制向量库规模增量索引RAG 只重索引变更文档而非全量重建减少索引成本6.4 架构优化分层记忆 反思\[每轮对话] ──▶ 是否重要? #x20; │是 │否 #x20; ▼ ▼ #x20; \[工作记忆·短期] \[丢弃/极简记录] #x20; │ #x20; ▼ #x20; \[定期整合 Consolidation] #x20; │ #x20; ▼ #x20; \[语义记忆·长期向量库] ──▶ \[按需召回] #x20; │ #x20; ▼ #x20; \[反思LLM 提炼用户画像] ──▶ \[用户画像·结构化存储] ──▶ \[按需召回]反思机制Reflection不是直接存原始对话而是定期让 LLM 从多轮对话中提炼用户画像“用户偏好深度优先的答案” 用户反感空话 画像比原始对话更精炼、更好用。这也是 MemGPT /mem0 等框架的核心思想之一。七、落地架构记忆 RAG Agent 如何配合7.1 分层上下文组装生产级参考\[用户输入] ──▶ \[意图/路由] ──┬──▶ 需要外部知识? #x20; │ │是 │否 #x20; │ ▼ ▼ #x20; │ \[RAG 检索] \[仅用记忆] #x20; │ 文档向量库 #x20; ▼ #x20; \[记忆召回短期窗口 长期语义 画像] #x20; ▼ #x20; \[Prompt 组装系统指令 记忆 检索片段 当前问题] #x20; ▼ #x20; \[LLM] ──▶ \[输出] ──▶ \[写入闭环更新短期/长期记忆]7.2 代码RAG 记忆同框的最小 AgentAgent 短期记忆 长期记忆 RAG 检索组合示例 class RagMemoryAgent: #x20; def \_\_init\_\_(self, llm, vector\_db, doc\_store, memory\_long): #x20; self.llm llm #x20; self.vector\_db vector\_db # 文档向量库RAG 用 #x20; self.doc\_store doc\_store # 文档原始内容 #x20; self.memory\_long memory\_long # 记忆向量库 #x20; self.history \[] # 短期记忆 #x20; def answer(self, question: str, user\_id: str) - str: #x20; \# 1) 记忆召回 #x20; memories self.memory\_long.recall(question, top\_k3, user\_iduser\_id) #x20; \# 2) RAG 检索 #x20; doc\_ids self.vector\_db.query(question, top\_k3) #x20; passages \[self.doc\_store.get(i) for i in doc\_ids] #x20; \# 3) 组装分层记忆在前知识在后问题在最后 #x20; prompt \n.join(\[ #x20; \[用户相关记忆], #x20; \*memories, #x20; , #x20; \[参考资料], #x20; \*passages, #x20; , #x20; \[当前问题] question, #x20; ]) #x20; answer self.llm.chat(prompt) #x20; \# 4) 写回记忆 #x20; self.history.append((question, answer)) #x20; self.memory\_long.write(f{user\_id}-{len(self.history)}, #x20; fQ:{question}\nA:{answer}, #x20; {user\_id: user\_id, type: episode}) #x20; return answer组装顺序经验系统指令 → 用户记忆个性化 → 检索知识事实依据 → 短期上下文 → 当前问题。记忆与知识之间用分隔符区分防止模型混淆来源。八、总结与常见误区8.1 一句话总结RAG 和 Agent 记忆是 “同一套检索 - 生成架构的两个实例”RAG 检索外部知识记忆检索内部经历它们的共同底座是数据库尤其向量数据库差别在于数据来源、写入方式、个性化程度和生命周期。8.2 常见误区“给 Agent 配了 RAG 就不需要记忆”—— 错RAG 不解决连续性和个性化“记忆就是把所有对话塞进 Prompt”—— 错上下文会溢出必须压缩 / 检索 / 分级“记忆只能存向量库”—— 错偏好和状态适合 SQL热点会话适合 Redis实体关系适合图库“RAG 和记忆是同义词”—— 错前者解决知识后者解决状态二者互补而非互斥“记忆越多越好”—— 错脏数据、过期数据、隐私数据会拉低效果甚至造成泄露必须有写入治理和遗忘机制。8.3 选型速查你的场景优先方案回答基于公司知识库的问题RAG 向量数据库跨会话记住用户偏好结构化记忆SQL 用户画像长对话不丢上下文短期窗口 滚动摘要让 Agent 记住 “做过的事”情景记忆向量库 元数据全部都要分层记忆 RAG 组合架构参考与延伸阅读LangChain 文档Memory 模块ConversationBufferMemory / SummaryMemory 等MemGPTLetta分层记忆 自我编辑记忆的开源框架mem0面向 Agent 的长期记忆层支持向量库 / 图库后端《Retrieval-Augmented Generation for Large Language Models: A Survey》Gao et al.LlamaIndexRAG 与 Agent 记忆统一抽象Memory / ChatMemoryBuffer注文中代码为教学骨架生产使用请补充鉴权、限流、隐私脱敏、数据备份与合规如 GDPR 对用户数据删除权的支持。