智能体记忆机制是让 AI 在多轮对话与跨会话中保留关键信息的设计,通常分为短期对话记忆与长期事实记忆两层。
本文由北京国信诚商互联网科技有限公司整理 · 更新于 2026-10-31基本定义
大模型本身是无状态的:每次调用都从零开始,只能看到本次传入的上下文。智能体记忆机制就是在外围建立存储与召回逻辑,让系统记住用户是谁、之前聊过什么、办到哪一步。
没有记忆的智能体只能做一次性问答,有记忆的智能体才能承接连续任务。
两层结构
工程上通常把记忆分成两层,职责不同。
- 短期记忆:当前会话的对话历史与任务状态,常做滑动窗口或摘要压缩
- 长期记忆:用户偏好、关键事实、历史结论,写入数据库或向量库按需召回
- 工作记忆:当前任务中间结果,任务结束后清理
常见问题
记忆做得不好,体验反而更差。
- 记错:把推测当成事实写入长期记忆
- 记太多:无关信息占用上下文,回复变慢变散
- 串号:多用户场景下记忆未按用户隔离,造成隐私泄露
- 无法纠正:用户说「记错了」却没有修改入口
设计原则
三条原则足够指导落地:只把结构化、可验证的事实写入长期记忆(如偏好品类、常用地址),不做主观推断;给用户可见的记忆查看与删除入口;会话结束做一次摘要归档,而不是把整段对话永久堆在上下文里。
常见问题
记忆是模型自带的吗?
不是。模型本身无状态,记忆由应用层通过存储、检索与上下文拼装实现。
记忆会占用上下文吗?
会。召回的每条记忆都会占用窗口,因此需要做筛选与摘要,避免塞满。
用户隐私怎么保障?
记忆按用户隔离存储、加密传输,并提供查看与删除入口,敏感信息默认不写入。