长时程语言模型代理会不断累积推理轨迹、工具交互和观测信息,而这些信息的相关性会随当前决策而变化。传统的压缩方法往往对历史单元进行独立打分,但删除多个单元的安全性并不能仅由它们的单独分数决定——冗余证据、累计的微小影响以及删除后剩余的信息都会产生影响。
我们提出 直接关系集合风险剪枝 (DRSR),将历史压缩建模为在删除集合上受风险约束的选择问题。离线阶段,DRSR 通过联合删除符合协议的历史块并测量对教师强制下同一下一步输出似然的变化,构造精确的反事实监督。随后训练一个轻量级评分器,利用在线可见的候选历史与当前预行动态之间的关系、已删除‑保留对以及集合内部的成对结构,预测集合级的危害。
部署时,DRSR 在结构上合法的少量删除候选集合上运行评分器,依据新近性、协议、预算以及学习得到的风险约束,移除风险可接受的最大集合;若没有安全的集合则选择保留。实验在 WorkBuddyBench Full260 上将平均奖励从 0.699 提升至 0.802,同时将模型使用的总 token 数削减 20.820%。在固定的 Eval40 对比中,DRSR 以每任务 1.211M token 获得 0.794 的奖励,比未压缩的代理少用 35.850% 的 token。机制分析和消融实验表明,决策条件关系、保留上下文信息、成对交互以及保留策略(abstention)均对可靠剪枝起到关键作用。
点评:DRSR 通过集合级风险建模克服了传统单点评分的局限,实现了在保持或提升任务表现的同时显著降低计算开销,为长时程代理的实用化提供了可行路径。