前言

在 AI Agent 的开发中。几乎每个研发者都会遇到同一个痛点：Agent 在单轮对话中表现不错，但任务延伸、跨会话或长时间交互时它会出现“健忘”或“逻辑断层”。按理说，

主要痛点一览

• 昨天告诉它「我用的是 Java。偏好性能而非代码规范」，今天它却又开始纠结命名规范，甚至默认你仍在写 Java；
• 需要多步推进的长任务。在中段忘记最初目标，开始兜圈子；
• 对话越久。几小时前的工具调用结果与当前问题混为一谈，给出自相矛盾的答案。

这些现象的根源往往不在模型本身，而在 记忆。

业界常用的 Agent 主要公式：

Agent = LLM + Planning + Memory + Tools

• LLM推理引擎；怎么说呢，
• Planning任务拆解与步骤规划；老实说，
• Tools可调用的外部能力；
• Memory决定 Agent 记得什么、学到了什么、此刻在处理什么。

很多团队把精力全投向更大的模型或 Prompt 调优，却忽视了记忆程序——它直接决定了 Agent 能否从“聊天机器人”进化为真正的“数字员工”。怎么说呢，一个会遗忘、会混淆、不会积累经验的 Agent。即使算力再强，也只能活在“一句话”里。话说回来，

阅读收获

• 理解短期记忆与长期记忆的双层架构；
• 掌握短期记忆的上下文管理手段：滑动窗口、摘要压缩、重型结果卸载；按理说，
• 学习长期记忆的读写链路对话后语义提纯写入、会话前向量检索注入；
• 获得一套让记忆持续进化的“代谢机制”还有 L1/L2/L3 进阶方法，并配有可复现代码示例。

从背景或问题来看，Agent 为什么会“健忘”？

以下三个坑是几乎所有 Agent 开发者都会踩到的：

1. 每次都从基础开始。
2. 长对话后期“变笨”：聊到几十轮以后Agent 开始忘掉前面说过的话。格式混乱，甚至凭空编造已不存在的上下文。
3. 记忆越攒越乱：好不容易加了记忆。却把 “使用者技术栈是 Java” 与后来的 “升级到 Java 17” 两条信息都保留，导致新旧事实冲突，输出更乱。

至于主要思路，记忆的双层架构——物理与逻辑彻底解耦

至于短期记忆。Session 级工作空间

短期记忆存放于当前单次会话的，记录必须保留的信息，如使用者最新提问、Planning 的中间计划还有工具调用的输入/返回。虽然主流模型已支持约 1M Token，但仍受两大硬约束限制：

• 推理成本随长度线性增长：
• "中间丢失"现象：

管理手段：

1. 滑动窗口：
3. "结果见 result_8842.json";必要时再检索回填，

再看长期记忆。 跨 Session 的经验沉淀

长期记忆是会话之外持久化的知识库，用于保存使用者偏好、历史决策和教训。它与常见 RAG 程序有根本区别：

读写链路：

• 发生在。老实说，通过 LLM 对短期上下文进行语义提纯，将闲聊、工具返回等噪声过滤。只抽取值得永久保存的事实/偏好/教训，并以结构化形式写入向量数据库或 KV 存储。
• 发生在。使用向量检索把与当前问题最相关的历史片段拉回。并以程序提示或专属 “Memory ”块注入上下文，让模型立即拥有过去经验。

再看代谢机制。让记忆持续进化

为了防止长期库膨胀失效，需要实现主动“代谢”。典型三阶段循环如下：

1. 每次关键任务完成后让 LLM 回顾执行过程。成功因素和错误根因，并生成结构化 “Lesson ” 条目。
2. 将新生成的 Lesson 与已有相似条目做相似度比对。如果相似度超过阈值则合并更新，否则新增。这样可以避免重复记录导致噪声累积。
3. 基于时间戳和访问频率实施淘汰策略，例如“30 天未访问且相似度低于 0.6 的条目自动归档”。提供管理员手动标注 “永远保留”。

代谢机制分层实现

• 使用 Redis / DynamoDB 保存原始事实键值对。例如 {"user:123:language":"Java","user:123:pref":"performance"}. 检索速度快，但缺乏语义匹配能力。说起来，
• 将 L1 中的关键事实转为嵌入向量存入 Milvus / Pinecone。实现语义相似度查询，用于跨主题快速召回。
• 在 L2 基础上，为复杂推理提供结构化背景。

实战代码片段

import json
from uuid import uuid4
from langchain.llms import OpenAI
from langchain.embeddings import OpenAIEmbeddings
from langchain.vectorstores import FAISS
llm = OpenAI
emb = OpenAIEmbeddings
# ---------- 短期摘要压缩 ----------
def summarize_history -> str:
prompt = (
"请把下面多轮对话压缩成 150 字以内，只保留关键事实和决策要点。"
+ "
".join
)
return llm
# ---------- 长期写入 ----------
def write_long_term:
# 提取要保存的字段
summary = summarize_history
doc = {
"id"的观点是，str),"user_id": memory_id,"summary": summary,"metadata": facts。"timestamp": facts
}
# 向量化并写入 FAISS
vector = emb.embed_query
faiss.add_documents
# ---------- 长期读取 ----------
def retrieve_relevant:
q_vec = emb.embed_query
results = faiss.similarity_search_by_vector
# 将检索到的摘要拼接进程序提示
context = "
".join
return f"

落地 checklist

• 为每个使用者创建独立 Short‑term Buffer 与 Long‑term Store；
• 实现滑动窗口 + 摘要压缩组合，以保持 ≤ 8k Token 的实时上下文；老实说，
• 所有工具调用的大对象统一 Offload 并返回引用链接；
• 每轮结束后触发 Reflection → Merge → Pruning 流程，实现自我进化；
• 监控 Memory 使用率和检索准确率，根据指标动态调节 L1/L2/L3 层比例。

— 超级大脑不是梦