一个让你似曾相识的场景
你给AI Agent布置了一个任务:”去厨房找到苹果,放到冰箱里。”
Agent信心满满地出发了。它走到卧室,打开衣柜,翻找一番——没找到。它又走到浴室,打开镜子柜——还是没找到。三番五次折腾后,它终于摸到了厨房,却打开了洗碗机而不是冰箱。
任务失败。
这时候,传统的做法是让Agent”反思”一下:”你觉得哪里做错了?”Agent沉思片刻,回答道:”我不应该去卧室和浴室找苹果,应该直接去厨房。”听起来很深刻,对吧?
然后你让它再试一次。它走到厨房,打开了微波炉。
反思-重试循环(reflect-replay loop)就是这么个东西:Agent失败了→让它想想为什么→重新执行→又失败了→再想想→再执行……如此往复。每一次循环都要烧API token,每一次反思都依赖LLM自身的推理能力,而且——最致命的是——反思出来的经验往往只对当前这个具体任务有用,换个场景就忘光了。
今天这篇论文提出了一个截然不同的思路:别让AI反思了,用图算法算出它错在哪。
论文信息
Experience Memory Graph: One-Shot Error Correction for Agents arXiv: 2607.13884 作者: Wenjun Wang, Yuchen Fang, Fengrui Liu, Zibo Liang, Kai Zheng
核心洞察:从”在线反思”到”离线计算”
先说清楚传统方法的三个硬伤:
硬伤一:反思能力依赖模型大小。 小模型(比如4B参数的Qwen3)根本反思不动——它会陷入”我错了→我觉得应该换个方向→换个方向还是错了”的死循环。就像一个水平不够的学生,做错题后看答案解析也看不懂到底哪里错了。
硬伤二:推理成本爆炸。 每次失败后要反思+重新执行,5轮迭代就是5倍的API调用。在实时场景里,这种来回拉扯根本不可行。
硬伤三:经验不可迁移。 在”找苹果”任务上反思出来的经验,到了”找杯子”任务上就用不了了。每个任务都要从头反思。
这篇论文的解法非常优雅:把反思这件事从测试时搬到训练时,从”让LLM猜”变成”用算法算”。
具体怎么做?把Agent的执行轨迹变成图,然后用图匹配算法精确计算出”错在哪一步、应该怎么改”。
方法:把轨迹变成图,把纠错变成图编辑
第一步:轨迹 → 决策图
Agent的执行轨迹长这样:
观察: 厨房里有苹果、土豆 动作: 拿苹果 观察: 手里有苹果 动作: 去冰箱 观察: 到了冰箱前 动作: 打开微波炉 ← 错了!
论文把这个序列转换成一张有向图: – 节点 = 动作(比如”拿苹果”、”打开微波炉”) – 边 = 观察(动作之间的环境状态,比如”手里有苹果”)
关键设计:同一个动作出现多次时,不新建节点,而是复用——这样”拿苹果”这个动作在不同观察条件下的出现就被合并了,图变成了一个真正的”决策结构”而不是线性日志。
第二步:图匹配 → 精确纠错
现在你手上有两张图: – 失败图(Agent实际走的路线) – 专家图(正确答案的路线)
用Fused Gromov-Wasserstein最优传输算法做图匹配——这东西听着吓人,干的事其实很直觉:找到两张图之间节点的最佳对应关系,使得整体结构差异最小。
匹配完成后,两类信息自然浮现:
1. 公共子图(Common Subgraph):两张图中完全匹配的部分——这是Agent做对了的步骤,应该保留。 2. 图编辑路径(Graph Edit Path):从失败图变成专家图需要的操作——删掉哪些节点、插入哪些节点、重标记哪些节点。这就是精确的纠错指令。
举个例子,图编辑路径可能告诉你: – 在观察”到了冰箱前”的条件下,把动作从”打开微波炉”替换为”打开冰箱” – 在观察”手里有苹果”之后,删除”去卧室”这个多余动作
这比”我觉得应该去厨房找”的模糊反思精确一万倍。
第三步:构建经验记忆图
光对一个任务做纠错还不够。论文进一步构建了一张经验记忆图(EMG):
– 节点:每个训练任务一个节点,存储该任务的纠错洞察(intra-task insight) – 边:语义相似的任务之间连边,存储跨任务的通用模式(cross-task insight)
边的构建方式:对两个相似任务的专家轨迹再做图匹配,提取它们的公共子图——这就是”不同任务中反复出现的成功模式”。比如”找苹果”和”找杯子”的专家轨迹都包含”先去厨房→打开容器→拿物品”的模式,这个模式就被提取为跨任务洞察。
第四步:测试时一次性执行
测试时,Agent面对新任务: 1. 用查询嵌入检索记忆图中最相关的节点和边 2. 把纠错洞察和跨任务模式塞进prompt 3. 一次性执行,不循环,不反思
实验结果:小模型+记忆图 ≈ 大模型
主实验
在两个benchmark上测试:
| 方法 | ALFWorld (Qwen3-4B) | ScienceWorld (Qwen3-4B) |
|---|---|---|
| ReAct (无记忆) | 29.29% | 11.86% |
| Reflexion (5轮反思) | 34.29% | 14.95% |
| ExpeL (5轮反思) | 38.57% | 13.40% |
| EMG (一次性) | 53.57% | 17.53% |
在ALFWorld上,EMG用一次性执行就达到了53.57%的成功率,比跑了5轮反思的ExpeL高出15个百分点。
换上大模型DeepSeek-V4-Flash:
| 方法 | ALFWorld | ScienceWorld |
|---|---|---|
| ReAct | 86.43% | 17.53% |
| Reflexion (5轮) | 82.86% | 12.89% |
| EMG (一次性) | 96.43% | 28.87% |
最震撼的对比
> 4B参数的Qwen3 + EMG ≈ 大模型DeepSeek + 传统方法
在ScienceWorld的Seen split上,Qwen3-4B + EMG拿到17.53%,而DeepSeek + ReAct也只有17.53%——小模型加上结构化记忆,追平了大模型的无记忆基线。
时间成本
EMG的测试时推理时间远低于所有迭代方法——因为它只跑一次。迭代方法要跑5次,每次都要重新调用LLM。在商业API场景下,这个差距直接转化为真金白银。
消融实验:节点和边各值多少?
| 变体 | ALFWorld Seen SR | ScienceWorld Unseen SR |
|---|---|---|
| 无记忆 (ReAct) | 29.29% | 8.53% |
| 只有节点 (任务内纠错) | 48.57% | 9.48% |
| 节点+边 (完整EMG) | 53.57% | 16.11% |
节点记忆(任务内纠错)是基础,贡献了大部分性能提升。边记忆(跨任务迁移)对小模型在复杂任务上的帮助尤其大——ScienceWorld Unseen从9.48%跳到16.11%,几乎翻倍。
这说明什么?小模型自己举一反三的能力弱,需要显式的跨任务知识来补偿。大模型(DeepSeek)从边记忆中获益较少,因为它本身就有较强的泛化能力。
我的思考
1. 范式转移:从”让AI想”到”替AI算”
这篇论文最让我兴奋的不是具体数字,而是范式转移。过去几年,AI Agent领域的自我纠错几乎被”反思”范式垄断——让LLM当自己的老师,犯错后自己分析原因。但这篇论文说:不,有些事情算法比LLM做得更好。
图匹配是确定性算法——同样的输入永远得到同样的输出。而LLM的反思是概率性的——同一个错误,它可能这次说”我应该去厨房”,下次说”我不应该去卧室”,第三次干脆说”我需要重新理解任务”。确定性意味着可靠,意味着小模型也能用,意味着不需要烧钱跑5轮。
这让我想到一个更广的教训:LLM不擅长的事情,就别让它做。 自我诊断错误根源,本质上是一个需要精确推理的任务,而这恰恰是LLM(尤其是小模型)的弱项。把它交给图算法,各司其职。
2. “离线蒸馏”的思路值得推广
EMG的另一个亮点是离线构建、在线使用。所有昂贵的图匹配和洞察提取都在训练阶段完成,测试阶段只是检索+执行。这和RAG(检索增强生成)的哲学一脉相承——把知识提前准备好,用的时候直接捞。
区别在于,RAG检索的是外部文档,EMG检索的是”从失败中蒸馏出的纠错经验”。这个思路可以推广到很多场景:任何需要”从错误中学习”的任务,都可以考虑离线构建结构化的纠错记忆,而不是在线让模型自己琢磨。
3. 图结构 vs 序列:Agent记忆的正确表示
为什么把轨迹转成图这么重要?因为序列丢失了”决策”的语义。
在序列表示中,”拿苹果”出现在第3步和第7步是两个不同的事件。但在图表示中,它们被合并为同一个节点,拥有多条入边(不同观察条件下的同一个动作)。这使得图匹配能够发现”在条件A下拿苹果是对的,在条件B下拿苹果是错的”这种细粒度的决策差异。
这暗示了一个更深的观点:Agent的记忆不应该是日志,而应该是决策结构。 日志告诉你”发生了什么”,决策结构告诉你”在什么条件下应该做什么”。后者才是可迁移的知识。
4. 局限性
论文也有明显的局限。首先,EMG需要专家轨迹——如果找不到正确答案,就没法做图匹配。这在开放域任务中是个大问题。其次,图匹配的复杂度是O(|V|³),虽然论文说轨迹图通常只有几十个节点,但如果任务复杂度上去了(比如几百步的编程任务),这个开销也不可忽视。最后,所有实验都在ALFWorld和ScienceWorld上做的,这两个环境的状态和动作空间都比较结构化——在更开放的环境(比如真实网页操作)中效果如何,还需要验证。
结语
这篇论文给我最大的启发是一个简单的道理:工具要对口。 LLM擅长生成、擅长直觉推理,但不擅长精确的因果诊断。图匹配算法擅长精确的结构对比,但不能生成自然语言。EMG把两者结合起来——算法负责诊断,LLM负责执行——各取所长。
4B小模型加上一张精心构建的记忆图,就能在大模型的主场上掰掰手腕。这不是靠堆参数,而是靠把问题想清楚:到底哪一步需要智能,哪一步只需要精确?
—
论文链接: https://arxiv.org/abs/2607.13884 HTML全文: https://arxiv.org/html/2607.13884v1
每日论文猎手 · 费曼科普系列
