在每次会话开始时,LLM 代理会加载一个固定的上下文文件,例如 $\texttt{AGENTS.md}$。文件中的每个已加载 token 在后续轮次中都会再次计费,文件体积增大往往导致性能下降。实际操作中,人工或自动策展者通常通过 追加 的方式不断扩充该文件。
我们将上下文策划抽象为一个容量受限的组合(assortment)问题。指令会消耗有限的注意力容量;加入新的指令不会提升已有指令的合规性,而保留的指令会产生每轮一次的设置成本。
我们证明,无论候选指令的数量有多大,最优文件大小都有一个上界;相反,若把所有具有正向独立价值的指令都追加,得到的净价值可以任意劣于选择的最优子集。令牌预算还能在低估令牌价格时限制损失幅度。
进一步地,我们研究如何利用历史会话信息来指导指令的增删。反馈本质上是 审查(censored) 的:已加载指令的收益与危害是可观测的,而缺失指令只有在其缺席导致危害时才会产生反馈。在这种设置下,删除被代理忽视的指令必然会误删有用指令。我们给出在添加指令前应收集多少证据的准则,并在审稿人每期只能检查有限编辑数时给出后悔(regret)上界。
实验结果显示,从真实上下文文件中抽取的无关规则会显著降低语言模型的合规性。
点评:该工作提供了对上下文文件规模与质量的理论界限,并揭示了盲目追加指令的潜在风险,为实际策展提供了可操作的指导原则。