实用的 Web 应用越来越需要代理能够理解长对话或文档。当输入长度超出大语言模型(LLM)的上下文窗口时,记忆代理会把文本分段并在受限记忆中保留历史信息。传统方法把输入切成平坦的 token 块,忽略了结构和层次,导致三大问题:\n1. 固定长度切分会把同一记录的字段拆开,破坏关联;\n2. 块缺乏层次信息,难以辨认其在整体结构中的位置;\n3. 连续的记忆更新会丢失早期兄弟记录的细节,影响后续推理。\n\n为了解决这些问题,本文提出 TreeAgent,它利用输入的层次结构来指导分段和记忆访问。具体做法是:\n- 将完整子树或相邻兄弟子树组合成一个段,保持局部结构关系;\n- 为每个段附加结构路径,使代理能够识别其祖先节点和层级位置;\n- 引入残差记忆链接:低层子节点的段直接链接到高层父节点的段,实现跨步信息流,而不是仅靠顺序记忆更新。\n\n我们给出段数的理论上界,帮助在给定 token 预算下匹配固定长度分段的段数。实验在四种代表性记忆代理上进行,覆盖 JSON、HTML、YAML、JavaScript 四类真实应用数据,长度从 8K 到 1M token。结果显示,TreeAgent 在所有四个数据集上均提升平均得分,整体提升约 3.61%。\n\n点评:TreeAgent 通过结构感知的分段和残差记忆链接,有效缓解了长层次数据处理中的信息碎片化问题,为大模型在实际应用中的记忆扩展提供了可行路径。