潜在多智能体系统通过在连续表征中保存中间推理和智能体间通信,显著降低推理成本。传统可复用技能要么以文本形式提供,要么以层级键值状态或专用模型参数存储,这会导致重复计算或巨大的技能存储开销。
SkillMem 将每个可复用技能表示为一个小型外部潜在记忆,并在潜在多智能体推理过程中直接读取。角色条件交叉注意力读取器根据不同智能体的角色和当前隐藏状态,使用同一记忆为其提供指导。
我们通过行为蒸馏训练技能记忆和共享读取器,匹配文本技能引起的 token 预测变化,同时保持主干模型冻结。实验中从成功与失败的多智能体轨迹配对中提取文本技能,也可以直接编译已有技能。
在六个基准和 Qwen3 系列(4B~14B 参数)模型上,SkillMem 对小模型提升显著,同时在所有尺度上保持高效的潜在多智能体推理。我们在所有模型上统一使用 $8\times256$ 的记忆配置,每个技能包括检索嵌入在内仅需 $9.6\,KB$ 存储。对于 100 条技能的库,SkillMem 相比其他表示方式节省超过 $38\times$ 的总存储,并实现最高 $4.23\times$ 的端到端推理加速。
这些结果表明,紧凑的过程记忆可以在不牺牲潜在多智能体推理效率的前提下被重复使用。
点评:SkillMem 通过外部记忆实现了高效且可扩展的技能复用,为大模型在资源受限环境下的多智能体协作提供了实用方案。