1.8 上下文管理秘籍：从零构建长短期记忆，让你的 Agent 不再健忘

1.8 上下文管理秘籍：从零构建长短期记忆，让你的 Agent 不再健忘

导语：欢迎来到我们第一周课程的最后一讲！我们已经学会了如何让 Agent 思考、行动，甚至如何塑造它的“人格”。但还有一个致命的弱点我们尚未解决：遗忘。随着对话的进行，不断增长的上下文会迅速撑爆大语言模型的 Token 限制，导致 Agent 像得了“健忘症”一样，忘记之前的对话内容。本文将授予你对抗“遗忘”的秘籍，带你深入探索上下文管理的各种策略，从最简单的截断，到智能的摘要，再到高级的向量化记忆，让你亲手为你的 Agent 构建起强大的长短期记忆系统。

目录

1. “我是谁？我在哪？”：为什么 Agent 会“健忘”？
   • 上下文窗口（Context Window）：LLM 的“记忆容量”天花板
   • Token 爆炸：当对话历史变得比小说还长
   • 遗忘的后果：重复提问、丢失关键信息、无法完成多步任务
2. 短期记忆策略：简单粗暴但有效
   • 策略一：滑动窗口（Sliding Window）
     • 原理：只保留最近的 K 轮对话
     • 代码实战：在我们的 GAME 框架中实现一个SlidingWindowMemory