刚刚,Anthropic公开Claude内部记忆架构设计

PaperAgent · 人工智能

PaperAgent 2026-11-08 10:49 湖北

大家好,我是PaperAgent,不是Agent!

Agent能跨会话记住事情,并不等于它真正拥有长期记忆。更难的是:该记住什么,错误记忆由谁修正,新会话又应该先看什么?

Anthropic发布最新长文《The components of agent memory》,系统拆解 Claude 的记忆设计。核心不是增加一个数据库,而是让在线记录与离线整理形成闭环。其中,离线整理过程被称为 dreaming。8种模态大集结!蚂蚁首篇全模态Embedding综述来了https://x.com/nikogrupen/status/2108226990792900876

https://x.com/nikogrupen/status/2108226990792900876

Claude 的记忆,是一座四层金字塔

最底层是完整对话与任务记录,也就是可搜索的 transcripts;向上是 Claude 主动写下的 memory notes;再向上是 Wiki 等结构化知识表示;最顶层则是每次新会话自动注入的上下文。

图 1|从原始记录到注入上下文,Dreaming 负责组织整个记忆层级。

Dreaming 不是第五层存储,而是贯穿四层的维护引擎。它回查原始记录,修正笔记,组织 Wiki,再把最重要的索引推向顶层。

四层之间也不是一次性搬运。新经验可以先落在笔记里,稳定知识经过多次使用后逐步上升,失效内容则被下推或删除。记忆因此有了生命周期。

这也划清了记忆边界:训练带来的权重变化、单次对话内的学习,以及为延长当前任务而做的上下文压缩,都不属于这里讨论的跨会话记忆。

二、记得更少,反而走得更远

架构解决了放在哪里,下一个问题是写什么。CL-Bench 1.0 的数据库任务中,Claude 每次都在新会话答题,只能读取跨会话保留的记忆目录。答错后,它可以记录失败、提出解释、验证解释,再沉淀为下次可用的规则。

Claude能写Note到记忆
Claude能写Note到记忆

Opus 5 的平均奖励从无记忆时的 0.564 提升到 0.828。真正的跃迁不是多存了几条事实,而是模型开始保存规则、验证依据和已知陷阱,自己闭合学习循环。

图 3|多个 Claude 模型都能从记忆中获益,但形成完整学习循环的能力不同。

宝可梦实验进一步说明,记得多不等于记得好。约一万步时,Sonnet 3.7 写下 413 个文件、分布在 225 个文件夹中,只拿到一枚徽章;Fable 5 只保留 10 个文件,却拿到四枚徽章。

差别在于显著性判断。位置、金钱等每回合都能从屏幕看到的信息,不值得反复存档;策略、计划和验证过的规则,不写就会消失。Sonnet 3.7 曾连续 17 步忙于增删记忆,完全没有推进游戏。

目录膨胀会反过来拖慢 Agent,因为检索和维护都要消耗本可用于行动的步数。记忆不是免费资产,它本身也有成本。

图 4|左侧记忆庞杂,右侧只保留目标、路线与玩法策略。

三、模型越强,越不需要死板规则

既然显著性如此重要,能否直接规定只记失败?实验结果恰好相反。只记失败让 Opus 5 和 Opus 4.7 的记忆收益分别减少 0.234 和 0.150,因为成功经验、已验证事实同样可能影响后续任务。

但旧模型仍需要脚手架。Sonnet 4.6 加入记忆后只有 0.364;明确要求答题前读取文件并验证猜想,分数升至 0.641,接近无记忆基线 0.330 的两倍。

因此,Anthropic 给前沿模型的策略是:告诉 Claude 记忆为什么存在,但不替它决定每一次该怎么记。

图 5|精细提示能帮助旧模型,固定规则却会削弱更强模型的自主判断

四、Dreaming 用原始记录纠正错误记忆

在线写入仍可能出错。宝可梦的月见山任务中,Claude 错把宝可梦中心记在山洞东侧,又据此写下月见山已经完成。错误笔记不断被后续会话信任,角色三次跌回旧路线,最终未能抵达下一座城市。

图 7|同一段游戏经历,修正后的记忆让 Claude 返回山洞而非继续前进。

Dreaming 介入后,Claude 将笔记与原始 transcript 对照,发现位置错误并改写记忆。使用修正笔记的运行在第 1935 个累计动作抵达 Cerulean City;原始记忆与无记忆两组都没有走到那里。

这次纠错没有依赖人工标注,而是让模型重新面对产生笔记时的证据。原始记录由此成为整个记忆系统的校验锚点。

这个案例揭示了整套架构的关键:记忆不是事实本身,而是可被原始经验校验的缓存。

图 8|Memory plus dreaming 到达下一座城市,另外两组未能越过月见山。

五、128 轮离线整理,把文件堆变成知识地图

纠错之后,Dreaming 还能创造新的记忆表示。Anthropic 使用 Stainless 约 35 万个文件、4.2 亿 token 的内部语料,让 Opus 5 在 128 个会话中持续撰写、合并、修剪并互链 Wiki 页面。

在 25 道评测题上,只用 Wiki 的得分从 13% 提升到 48%;Wiki 加搜索从 54% 提升到 61%,高于单独搜索的 53%,同时每题少消耗约 2 万 token。Wiki 的价值不是取代搜索,而是先提供地图,再减少盲目搜索。

图 10|从两次到 128 次会话,页面与链接持续增长,Wiki 加搜索的效果最好。

这种收益依赖任务结构。需要跨文档组合信息时,Wiki 得分 87%,单独搜索为 73%;答案集中在单篇文档时,优势不再明显。另一项任务中,Wiki 甚至膨胀到原始文档的 1.77 倍。

所以,知识地图必须压缩信息,而不是把语料换一种方式抄一遍。

六、最珍贵的顶层,只放一个小索引

整理好的知识如何进入下一次任务?Dreaming 可以把高频、重要的笔记提升到 injected context,由 harness 在新会话开始时自动加载,Claude 不必先意识到应该搜索什么。

顶层却不能无限扩张。注入内容会占用 token,错误也会被带入每次会话,过长指令还会降低遵循度。Claude Code 的 auto memory 因此只加载 MEMORY.md 的前 200 行或 25 KB,其余细节留在下层,按需读取。

顶层是目录,不是仓库;Dreaming 的工作之一,就是不断把细节下沉并留下链接。

图 13|顶层自动注入,下层按需读取或搜索,形成不同成本的记忆访问路径

七、目标写对,记忆才会朝正确方向生长

记忆如何组织,还取决于它服务什么目标。法律合同任务中,多个 Agent 起初共同维护一张条款表,相互覆盖导致信息丢失,最终只保留 57 项关键事实中的 41 项,完成度为 72%。

图 14|从共享表格改为每份合同独立建页后,57 项事实全部保留。

Claude 反思失败后改写了构建指令:每份合同由单个 Agent 独立建页,条款逐字保留。结果 57 项事实全部保留,简报评测标准满足率达到 100%。

第二轮 Dreaming 还能跨会话补洞:将九个指向不存在页面的链接改到已有页面,并新增三个页面。它不仅整理已有经验,也在修复经验之间的连接。

图 15|第二轮整理修复九个断链,并增加索引等三个页面。

结语

Anthropic 这次给出的,不是一套万能记忆模板,而是一条清晰主线:经验先被记录,再被筛选、验证、连接,最后以最小上下文进入未来。

图 6|记忆可靠性不来自一次写入,而来自原始记录与笔记之间的持续校验。

边界同样明确。在线记录会分散当前任务注意力,离线整理需要额外算力,记忆还会随环境变化而漂移。下一步需要继续平衡整理频率、更新成本与任务收益。

评估也不能只看存取是否成功,还要追踪旧记忆是否仍然正确、检索是否节省行动,以及整理开销能否换来持续收益。

claude记忆评分-维基百科
claude记忆评分-维基百科

对长期运行的 Agent 来说,真正重要的或许不是存下全部过去,而是持续把过去变成可靠、紧凑、可调用的未来上下文。

The components of agent memory
https://www.anthropic.com/research/components-of-agent-memory

动手设计AI Agents:(编排、记忆、插件、workflow、协作)

Loop工程已死,Graph工程永生

一篇Loop+Harness的自进化Agent最新综述

2026,做Agentic AI,绕不开这两篇开年综述

已经读到这了,不妨点个👍、❤️、↗️三连,加个星标⭐,不迷路哦~

跳转微信打开

查看原文