NeFut Logo NeFut
EN 管理员登录

[AI学术] SPEM:面向结构感知的过程记忆用于高效LLM技能使用

发布于:2026-10-21 22:00 最后更新:2026-10-22 01:04
#algorithm #Machine Learning #LLM

LLM 代理在完成复杂任务时会调用可复用的技能库。随着技能数量增长,完整加载所有技能会导致大量 token 和运行时开销。传统的平面语义检索把每个技能当作独立的文本条目,忽略了技能之间的依赖关系、执行顺序、状态转移以及数据流约束,进而限制了效率和准确性。

SPEM 提出了一套轻量级的结构感知过程记忆框架。它由两部分组成:原子技能记忆(Atomic Skill Memory)用于存储单个技能的描述和实现;技能有向无环图记忆(Skill‑DAG Memory)记录在实际执行中成功组合的技能序列及其依赖结构。面对新任务时,SPEM 首先尝试匹配已有的高置信度 Skill‑DAG 模板;若不存在合适模板,则检索原子技能并交由 Skill‑GNN 进行状态感知和结构感知的技能选择。

Skill‑GNN 将当前环境状态、已有技能的输入输出以及 DAG 结构编码为图节点特征,通过图神经网络预测最合适的下一个技能及其参数。执行成功后,系统会将整个执行过程写回 Skill‑DAG Memory,形成新的可复用模板,实现记忆的持续累积。

在 ALFWorld 和 SkillsBench 两套基准上,SPEM 在保持高成功率和奖励的同时显著降低了 token 使用量和推理时间。具体表现为 ALFWorld 成功率 87.1%,SkillsBench 奖励 38.38%,相较于强基线实现了更优的效果‑效率平衡。

点评

原文链接: https://arxiv.org/abs/2610.26995

[h] 返回首页