大型语言模型(LLM)的记忆能力近年来受到广泛关注。现有的基于检索的记忆方法往往把所有记忆视为同质,使用统一的检索策略,导致在多样化场景下性能受限。为此,本文提出了记忆多分类数据集 TriMEM,对不同场景下的记忆进行精确标注,形成若干记忆类型。基于 TriMEM,作者设计了 MemoType 框架:通过学习的路由模型自动识别记忆和查询的类型,并据此选择对应的检索策略。记忆路由与查询路由相结合,使得系统能够针对每类记忆使用最合适的检索方式,从而提升检索精度。理论上,作者证明在多类语料库中,任何单一检索策略的期望检索精度都有一个上限,导致系统性精度下降。实验在三个公开数据集上进行,MemoType 在 Recall@1 上最高提升 16.18%,显著超越现有方法。
点评