Agent长期记忆的写入机制与评估

来源：抖音 @agent领域大神

Agent长期记忆：如何判断信息写入与工程考量

在大模型和Agent的开发实践中，Agent长期记忆（Long-term Memory）的构建和管理是一个核心问题。面试中常被问及“Agent如何判断哪些信息值得写入长期记忆？工程上靠什么标准来取舍？”这道题的答案绝非简单的“重要的就写进去”，而是要求我们具备实际工程经验，理解其中的实战挑战、潜在翻车点和可检验的策略。

什么是Agent的长期记忆？

Agent的长期记忆不是简单地将整个对话上下文储存起来，它是一个跨Session复用的知识层。这个知识层主要用于存储以下三类信息：

• 偏好（Preference）: 用户明确表达过的喜好，例如“喜欢简单回答”。
• 事实（Fact）: 经过确认的客观事实，例如“我在杭州工作”。
• 经验（Experience）: 通过实践踩坑总结出的经验，例如“该接口超时时要重试”。

短期对话上下文中的细枝末节，例如“今天天气真好”、“OK，收到”等一次性信息，则不应被写入长期记忆。

写入长期记忆的五大工程关卡

将合格的信息写入Agent的长期记忆需要经过一个多环节的筛选和处理流程，就像一个“工程闭环”，确保记忆的有效性和高质量。

第一关：写入准则（Write Gate）

写入准则用于判断哪些信息具备长期存储的价值。这个过程可以被分解为三个子判断：

1. 是不是一次性信息？ 如果是，直接丢弃（Drop），不进行写入。
2. 有没有跨会话复用价值？ 如果没有，也直接丢弃。只有具有跨Session复用价值的信息才能进入下一步。
3. 能不能归到三类之一？ 即该信息是否可以归类为偏好、事实或经验中的任何一类。只有符合这三类的信息才能被考虑写入。

第二关：触发时机（When to Write）

即便信息符合写入准则，也不是每个对话轮次都进行写入。写入长期记忆的触发需要满足特定的条件，以避免频繁操作和无效存储。

主要的触发时机包括：

• 用户强信号：用户明确表达了需要Agent记住的指令或信息，例如“记住我喜欢简短回答”。
• 任务结束（End-of-Task）：当一个任务完成后，对任务过程中产生的关键信息进行总结和写入。
• LLM自评分超过阈值：语言模型（LLM）对当前对话或信息的价值进行自评，当评分达到预设阈值（例如得分 ≥ 0.8）时，触发信息写入。

第三关：抽取归一（ETL of Memory）

这一关主要负责从原始对话片段中提取有价值的信息，并进行标准化处理，以确保记忆的质量和一致性。

处理流程包括：

1. 对话片段（Raw Dialog）：原始的用户对话信息。
2. 抽取（Extract）：从对话中识别并提取出实体（Entity）和断言（Assertion）。
3. 归一（Normalize）：进行去重（Deduplicate）和冲突合并（Conflict Merge）操作。在冲突合并时，需要对比新旧信息，决定是覆盖旧信息还是并存。
   • 示例：旧信息为 city: BJ，新信息为 city: HZ。如果发生冲突，需要决策是覆盖为 HZ 还是并存（例如，理解为用户现在在杭州工作，但之前在北京）。通常会选择覆盖最新信息，除非有明确的并存需求。

第四关：衰减淘汰（Decay / TTL）

长期记忆并非永远不变，需要定期进行维护，淘汰掉过时或不重要的信息，以保持记忆库的活性和效率。

衰减淘汰机制主要依赖以下指标：

• TTL（Time To Live）倒计时：为每条记忆设置寿命，到期后自动降权或淘汰。
• 命中次数（Hit Count）：一条记忆被引用的频率。高频率命中表明其重要性。
• 权重条（Weight）：综合TTL和命中次数等因素计算出的记忆重要性分数，随时间衰减。例如，一个记忆的权重会随着时间推移而降低，如果长时间未被命中，则会降权。
• 状态：记忆的状态可以是活跃（Active）、降权或淘汰（Evict）。长期未被命中的记忆会降权，反复被推翻的记忆会直接淘汰。

第五关：隐私与用户可控（Privacy & Control）

在处理用户长期记忆时，隐私保护和用户控制是至关重要的。

• 敏感字段打标隔离：对涉及个人身份信息（PII - Personally Identifiable Information，如姓名、邮箱、电话）和敏感数据（Secret，如API密钥）等敏感字段进行标记和隔离，通常会进行加密存储，确保数据安全。
• 用户可见、可控：用户应该能够清晰地查看到自己的长期记忆内容，并有权随时修改或删除这些记忆，例如，通过界面查看偏好、事实、经验，并提供“查看”、“修改”、“删除”等操作。这符合GDPR等数据隐私法规的要求，也增强了用户对Agent的信任。

实战指标与回写监控（Observability）

为了确保Agent长期记忆系统的健康运行，必须建立一套完善的监控指标体系。如果写入量大但使用率低，就可能导致“Memory污染”，即记忆库中充斥着无用信息，影响Agent的效率和决策质量。

需要重点监控的指标包括：

• 写入量（Write Rate）：每天写入长期记忆的信息量。
• 命中率（Hit Rate）：长期记忆被Agent成功引用的比例。
• 冲突率（Conflict Rate）：新旧信息发生冲突并需要仲裁的比例。
• 用户删除率（Delete Rate）：用户主动删除长期记忆的比例。

通过对这些指标的监控，我们可以及时发现并解决长期记忆系统的问题，确保其有效支持Agent的运行。

总结

Agent长期记忆的构建和管理，不仅仅是简单的信息存储，更是一个复杂的工程问题。它要求我们将长期记忆设计成一个可判断、可归一、可衰减、可审计的子系统。从信息的筛选、触发时机、标准化处理，到记忆的维护和隐私保护，每一个环节都需要精心的设计和实现，才能确保Agent能够高效、准确地利用这些“记忆”来更好地服务用户。