1. 问题定义：从"Dory 的健忘"到"上下文的崩溃"
2023 年以来，大模型 Agent 在智能客服、代码助手、企业知识库、自动化办公等生产场景大规模落地。然而，一个隐蔽但致命的问题正随着 Agent 运行时间的增长而逐渐浮出水面：记忆召回过多导致的上下文溢出（Context Overflow）。
所谓"记忆召回过多"，是指 Agent 的记忆子系统（向量检索、对话历史缓存、经验库、工具结果缓存等）在一次请求中向 LLM 注入了超出其上下文窗口上限的内容。当注入 Token 数超过模型允许的最大上下文长度（如 8K、32K、128K、200K）时，系统会面临三类结局：
- 硬截断（Hard Truncation）：上下文超过上限后被强制截断，通常是"保留开头、丢弃中间"，导致关键指令、工具结果、多轮对话状态丢失。
- API 报错：部分推理服务（尤其是 OpenAI 兼容接口）直接返回
context_length_exceeded错误，Agent 任务整体失败。 - 隐性降级：即使模型声称支持 128K 上下文，过长的上下文也会导致"迷失在中间（Lost in the Middle）"现象——模型对位于上下文中间位置的信息召回准确率显著下降，同时推理延迟和费用线性甚至超线性增长。
这三类结局在生产环境中都不可接受。本文不讨论"如何让模型支持更长的上下文"这类模型研发课题，而是从Agent 系统架构与工程实践
