NeFut Logo NeFut
EN 管理员登录

[AI学术] 在持久记忆中匹配范围以防止跨任务族干扰

发布于:2026-09-25 22:00 最后更新:2026-09-28 00:49
#AI #Machine Learning #LLM

持久记忆让语言模型代理能够在不改动模型权重的情况下改进提示词和技能。我们发现,将检索范围与认证范围保持一致,可以使这些编辑在重复出现的任务族中实现可靠的持续适应。实验使用冻结模型的代理在 ProcStream‑RSI(一个包含 12 轮代码修复的流)上进行,核心控制机制为 正交回归控制 (ORC),它是一个基于执行结果的持久技能编辑门。

在一次干预实验中,保持提案和门决策不变,仅在检索时为每个被接受的技能限定其来源任务族。相比全局记忆,局部检索将隐藏轨迹效用的均值从 $0.713$ 提升至 $0.816$,并将有害部署次数从 8 次中的 6 次降至 0 次。

在 27 对随机顺序的流中,Scoped‑ORC 相比 Global‑ORC 提高了 $0.063$ 的平均轨迹效用(置信区间 $[0.037, 0.094]$),接受的更新次数从 12 增至 63,且在 19 条流中出现多个被接受的更新,全部 $63$ 次接受均未产生有害影响。全局控制的效用 $0.713$ 低于静态代理的 $0.775$,因为局部有效的编辑会对无关任务族产生干扰。

这些结果表明,范围匹配是持久代理记忆的一个互补控制手段:认证决定编辑是否被支持,检索范围决定该证据在何处被授权使用。

点评

原文链接: https://arxiv.org/abs/2609.29144

[h] 返回首页