长时程智能体在执行任务时会不断累积交互历史,但随着智能体状态的演化,过去交互的重要性会发生变化。现有的上下文管理方法多基于固定窗口、周期性调度或当前相关性进行压缩,忽略了一个更根本的问题:何时可以安全地替换过去的交互?过早压缩会丢失仍需用于后续决策的信息,过于保守则会导致上下文开销巨大。
为此我们提出 StateComp(状态条件压缩)框架,它依据当前智能体状态判断历史交互何时可安全压缩。StateComp 通过两阶段标注流程构建 KEEP 与 READY 两类监督信号,并在冻结的语言模型隐藏层表示上训练一个考虑类别不平衡的路由器。为了降低评估长历史的成本,框架引入有界状态表示;在执行时,将相邻的 READY 交互合并为连续区间,并用紧凑的摘要替代这些区间。
在 WorkBuddyBench 基准上的实验表明,StateComp 将智能体及摘要的总 token 数削减 52.27%,同时保持任务性能,并实现了 12.67 倍的表示提取加速。
点评