44

Agent的记忆系统(Memory)如何设计?短期记忆和长期记忆的区别?

Agent开发与工具调用中等

📋 面试问题

Agent的记忆系统(Memory)如何设计?短期记忆和长期记忆的区别?

✅ 期望回答

短期记忆:
  • 对话历史(上下文窗口中的消息序列),受token数限制
  • 管理策略:滑动窗口保留最近N轮对话;用LLM自动总结历史对话为摘要,释放窗口空间

长期记忆:
  • 存储方式:向量数据库存储历史交互的Embedding
  • 工作流程:新用户Query -> Embedding -> 检索长期记忆中最相关的历史经验 -> 与当前Query拼接 -> LLM推理
  • 信息类型:用户偏好(「每次都问Python」)、历史成功行动(「上次用这个工具解决了」)、事实知识(「用户的数据库是MySQL」)

设计考量:
  • 记忆衰减:越久远的记忆权重越低
  • 多会话持久化:用户ID作为记忆Key,跨会话保留
  • 隐私:记忆内容加密存储,支持用户删除
  • 成本:每条记忆需要Embedding和检索,大规模时需优化
#记忆系统#向量数据库#上下文