大模型 Agent 正在变得越来越“长期主义”:它要记住用户偏好,记住工具调用结果,记住跨会话发生过什么,也要在事实被修改后回答“现在到底哪个版本是真的”。
所以,Agent 的记忆不再只是“把聊天记录塞进向量库”。它更像一个不断写入、检索、更新、压缩和清理的数据库。
arXiv 新论文 Are We Ready For An Agent-Native Memory System? 做了一件很有价值的事:把 Agent Memory 当作数据管理系统,而不是 NLP 任务里的一个黑盒模块来评测。
它问的问题很直接:
我们真的准备好构建 Agent 原生的记忆系统了吗?
论文的答案并不乐观,但非常有工程价值:没有一种记忆架构在所有场景下都赢。系统是否有效,取决于它的记忆结构是否对准了 workload 的瓶颈。
不是 RAG,而是一套状态管理系统
论文首先划清了几个概念。
RAG 通常是无状态、只读的:给一个 query,从静态语料里找相关片段,再辅助生成一次回答。
Context engineering 是对当前上下文窗口做装配:选择工具说明、历史片段、提示词和检索结果,让这一次推理更顺。
而 Agent Memory System 不一样。它需要管理跨时间的 Agent 状态,包括历史交互、环境观察、工具执行、中间结果、用户偏好和后来修正的事实。它要回答的问题不是“这次检索什么”,而是:
- 记忆如何表示和存储?
- 原始交互如何抽取成记忆?
- 查询时如何检索和路由?
- 过期、冲突、重复和容量增长如何维护?
论文把这四层形式化为一个记忆系统元组:
M_sys = <R, S, Q, U>对应四个模块:
| 模块 | 负责什么 | 常见做法 |
|---|---|---|
| R:表示与存储 | 记忆长什么样,放在哪里 | 文本事实、向量、知识图谱、树、多引擎存储 |
| S:抽取 | 从对话和工具日志中写入什么 | 原始拼接、自由事实抽取、Schema 约束抽取 |
| Q:检索与路由 | 查询时怎么找到相关记忆 | Attention、向量检索、图遍历、LLM 规划、多阶段混合检索 |
| U:维护 | 如何更新、遗忘、压缩、去重 | 多版本、淘汰策略、语义合并、CRUD 工具调用 |
这个拆法的意义在于:当一个记忆系统失败时,我们终于可以问“到底是哪一层失败了”,而不是只看最终 F1 分数。
12 个系统,三类架构
论文评测了 12 个代表性记忆系统,并把它们分成三大类。
第一类是顺序上下文型,比如 MemoChat、Mem0、MEM1、MemAgent。它们通常把记忆看成文本片段、事实条目、摘要或上下文里的状态。这类方案容易实现,延迟相对低,但在冲突事实和长时间跨度上容易失控。
第二类是结构拓扑型,比如 MemTree、Zep、Mem0g、Cognee。它们把记忆组织成树、图或实体关系结构。优势是能保留实体、关系和时间线,适合事实更新和跨会话追踪;代价是构建和查询成本更高。
第三类是多范式混合型,比如 LightMem、SimpleMem、MemOS、MemoryOS、A-MEM、Letta。它们通常同时使用文本、向量、图、SQL、BM25 或 KV-cache,把短期状态和长期记忆拆开管理。
这其实也解释了为什么“Agent 记忆”会迅速复杂化:一旦你把它从 demo 推到真实用户和真实工作流里,单纯向量相似度就不够了。
用户可能先说“我住在上海”,几周后改成“我搬到杭州了”;也可能在三十轮对话前提到一个宠物名字,今天只问“它现在几岁了”。如果系统只是 append-only 地存事实,就会产生论文里很形象的说法:hallucinations of the past,也就是“过去事实的幻觉”。
关键结论一:没有通吃架构
论文在 5 类研究问题、11 个数据集上做了端到端评测,覆盖 LoCoMo、LongMemEval、DB-Bench 等 workload,并引入 Long Context 和 Embedding RAG 作为参考基线。
结果最核心的一句话是:不同 workload 的赢家不同。
几个数字很能说明问题:
| 场景 | 表现突出的系统 | 论文报告的结果 |
|---|---|---|
| LongMemEval 长期记忆问答 | Zep | LLM Judge Accuracy 达到 48.0 |
| LoCoMo 对话记忆精确匹配 | MemOS | Exact Match 达到 11.5 |
| DB-Bench 程序化数据库操作 | MemoChat / Long Context | MemoChat Task Success Rate 55.4,Long Context EM 48.2 |
这说明 Agent 记忆系统不是“越复杂越好”。如果任务需要执行顺序和中间状态,比如数据库操作,保留原始 trace 可能比精美的语义摘要更重要。如果任务需要跨会话找分散事实,图结构和层级结构才有价值。
换句话说,记忆系统应该先问 workload,再选架构。
关键结论二:检索不是 Top-1 排名问题
很多人设计记忆系统时,第一反应是优化“最相关的一条记忆能不能排第一”。
论文的检索实验显示,这个视角不够。
SimpleMem 的 Recall@1 最高,达到 39.0;但当检索预算扩大到 Recall@5 和 Recall@10 时,A-MEM 分别达到 69.5 和 85.9,MemTree 也达到 59.7 和 80.5。
这意味着:真正难的问题不是“第一条是不是相关”,而是“系统能不能把分散在不同时间、不同会话、不同表达里的证据重新拼起来”。
对 Agent 来说,很多问题本来就不是单点事实:
- 用户什么时候改过偏好?
- 哪个事实是最新版本?
- 这个工具执行结果和上次失败记录有什么关系?
- 多个会话里提到的同一个实体,是否应该合并?
这些问题需要的是证据空间的组织能力,而不是单纯相似度排序。
关键结论三:更新能力比记住更多更难
Agent Memory 最容易被低估的场景,是事实被修改。
论文在 update-oriented slices 上比较了不同系统。Zep 在直接事实修订上表现最好,Knowledge Update 的 Substring EM 达到 44.4,ROUGE-L F1 达到 36.8;Cognee 在 Temporal Reasoning 上领先,Substring EM 为 18.7,ROUGE-L F1 为 35.8;MemOS 在 LoCoMo 最新状态精确 grounding 上 EM 最高,为 8.9。
这组结果背后的工程含义是:可修订性必须内建在表示层,而不是交给最后的大模型“猜”。
如果新事实只是被追加到旧事实后面,检索时系统很可能同时拿到旧版本和新版本。最后模型看似“有上下文”,实际是在一堆互相冲突的证据里猜答案。
更好的做法是让记忆具备版本、实体绑定、时间戳、有效期、失效标记和 provenance。这样系统才能明确知道:
- 哪条事实被谁修正;
- 哪条事实仍然有效;
- 哪条事实只是历史记录;
- 查询时应该返回当前状态,还是返回历史轨迹。
这也是为什么图结构、多版本和混合过滤在动态更新场景下更有优势。
关键结论四:长上下文不是长期记忆
一个常见反驳是:既然模型上下文越来越长,为什么还需要复杂记忆系统?
论文给出的结果很扎心。
在 LongBench 中,Long Context 从 Short 到 Medium bucket,Accuracy 从 42.6 掉到 19.0。也就是说,直接把更多历史塞进去并不能稳定提升回答质量。
在 LoCoMo 中,当证据距离变远,Embedding RAG 的 Answer F1 从 37.1 掉到 7.4。平铺式向量检索在近距离事实上还能打,但一旦需要处理遥远、分散、带时间关系的证据,就会明显退化。
论文的总结很重要:长周期下,问题不再是“能不能存更多历史”,而是“能不能选择正确的抽象层”。
比如:
- 长输入有很多干扰项时,需要多视角过滤;
- 事实相隔很多轮时,需要关系索引;
- 先要定位相关会话,再回答局部细节时,需要 coarse-to-fine 的摘要或层级结构。
长期记忆的本质不是容量竞赛,而是结构竞赛。
关键结论五:维护范围决定成本
记忆系统越结构化,通常越贵。论文用统一 runner 记录了时间开销,比较了效用和延迟。
一些关键数字:
| 系统 | Normalized Utility | 平均操作延迟/Query |
|---|---|---|
| LightMem | 48.3 | 3.67s |
| MemTree | 63.5 | 15.9s |
| MemoryOS | 82.0 | 28.6s |
| Cognee | 超过 84 | 116.5s |
| Zep | 超过 84 | 155.1s |
这不是说结构化系统不值得用,而是说:真正决定成本的,不是有没有图、树或多引擎,而是每次写入和维护会波及多大范围。
局部维护更划算。全局重组、跨存储同步、整库重新摘要,都会让系统在记忆增长后变得沉重。
这对生产系统尤其关键。很多 Agent demo 在几十条记忆时看起来很好,一到真实用户、长期会话、多工具日志和频繁更新,就会被 index construction time、query latency 和维护成本拖垮。
组件级启发:少做“聪明压缩”,多保留可用证据
论文还做了细粒度 ablation,逐层比较表示、抽取、检索和维护策略。
我认为最值得工程团队记住的是这四条。
第一,表示层要保留证据。LightMem 的 User-Only Raw 在四个指标上都最好;摘要和过度压缩会让 LongMemEval 这类跨会话事实检索明显下降。层级结构能改善访问,但不能恢复已经丢掉的信息。
第二,写入时不要过早过滤。论文把这个原则叫 late filtering:写的时候尽量保留上下文,读的时候再筛。过于精细的 LLM 抽取,有时会提升局部事实精度,却破坏多跳推理需要的上下文。
第三,检索要有轻量规划,但不要堆复杂度。A-MEM 的 balanced hybrid retrieval 表现优于 sparse-leaning;SimpleMem 中 Planning Only 强于 No Planning,但 Planning + Reflect 反而没有继续提升。也就是说,规划有用,过度反思不一定有用。
第四,维护要保守合并。MemoryOS 的 Conservative-Merge 比默认略好,而 delayed flush 会让证据在查询时仍然碎片化。过粗摘要也会掩盖稀疏但有用的线索。
这些结论合起来,可以浓缩成一句工程原则:
写入时保留证据,检索时组织证据,维护时局部更新,不要把记忆压成一个漂亮但不可验证的摘要。
如果你正在做 Agent Memory,怎么落地?
我会把这篇论文的建议翻译成一套比较实用的架构默认值。
第一层,保留 append-only event log。原始对话、工具调用、环境观察、执行结果都要有不可变日志。它不是给模型直接读的,而是给系统追溯、重建、纠错用的。
第二层,抽取 versioned facts。事实不要只存一句文本,至少要带实体、时间、来源、有效状态和更新关系。对用户偏好、账户状态、业务对象尤其如此。
第三层,建立多路索引。向量检索负责语义召回,关键词或 BM25 负责精确词,结构化字段负责过滤,图或关系层负责实体跳转。不要让单一向量库承担全部语义、时间和逻辑责任。
第四层,做 query planner。用户问题进来后,先判断它是当前状态查询、历史轨迹查询、事实召回、过程追踪,还是多跳组合。不同问题走不同检索路径。
第五层,维护策略局部化。不要每次新增记忆都全局重写。优先做实体局部合并、版本失效、热度淘汰、路径级摘要。只有在离线批处理时再做大规模重组。
第六层,评测必须覆盖“时间”。只测最终回答 F1 不够,至少要测:
- 更新后是否返回最新事实;
- 是否能区分历史事实和当前事实;
- 证据距离变远后性能是否退化;
- 检索结果是否包含 gold evidence;
- index construction、query latency 和维护成本是否可接受。
如果没有这些测试,一个记忆系统很容易只是在 demo 里“看起来记住了”。
这篇论文真正提醒了什么?
过去两年,Agent Memory 经常被包装成一个产品功能:开启记忆、保存偏好、长期个性化。
但从系统角度看,记忆不是功能开关,而是一套数据基础设施。它涉及数据模型、索引、版本、冲突解决、查询计划、生命周期管理和成本控制。
这篇论文的价值,正在于把 Agent Memory 从“模型能力叙事”拉回了“系统工程问题”。
它没有给出一个最终答案,但给了一个很清晰的判断:
Agent 原生记忆系统还没有准备好成为通用基础设施。
但我们已经知道它应该往哪里走:不是更长上下文,不是更大的向量库,也不是更激进的摘要,而是面向 Agent workload 的、可更新、可检索、可维护、可评测的数据管理系统。
未来真正强的 Agent,未必是“最会聊天”的 Agent,而是拥有一套可靠记忆层的 Agent:它知道什么该记,什么该忘,什么已经过期,什么必须追溯,以及什么时候应该承认自己没有足够证据。
这才是长期智能真正需要的基础设施。
学AI大模型的正确顺序,千万不要搞错了
🤔2026年AI风口已来!各行各业的AI渗透肉眼可见,超多公司要么转型做AI相关产品,要么高薪挖AI技术人才,机遇直接摆在眼前!
有往AI方向发展,或者本身有后端编程基础的朋友,直接冲AI大模型应用开发转岗超合适!
就算暂时不打算转岗,了解大模型、RAG、Prompt、Agent这些热门概念,能上手做简单项目,也绝对是求职加分王🔋
📝给大家整理了超全最新的AI大模型应用开发学习清单和资料,手把手帮你快速入门!👇👇
学习路线:
✅大模型基础认知—大模型核心原理、发展历程、主流模型(GPT、文心一言等)特点解析
✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑
✅开发基础能力—Python进阶、API接口调用、大模型开发框架(LangChain等)实操
✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用
✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代
✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经
以上6大模块,看似清晰好上手,实则每个部分都有扎实的核心内容需要吃透!
我把大模型的学习全流程已经整理📚好了!抓住AI时代风口,轻松解锁职业新可能,希望大家都能把握机遇,实现薪资/职业跃迁~