摘要
人类的情节记忆支持对长时间尺度上展开的经历进行提取，但关于这一能力的计算机制仍存在争议，尤其是在长时记忆实验中。长上下文语言模型（LLMs）可能提供有希望的方式揭示驱动此类提取的计算机制。
在本研究中，我们探讨了 LLMs 是否以及如何通过一个时间顺序记忆任务捕捉情节记忆的核心行为特征。我们使用一个基于对完整小说记忆的人类行为的新数据集，结果表明模型在此任务中展现出与人类相同的特征距离效应。
接着，我们应用长上下文机制可解释性分析，揭示模型如何解决该任务，发现模型性能依赖于在检索过程中由单个时间重建注意力头重建的一维时间编码。这些发现支持时间上下文重建作为 LLMs 中情节型时间顺序记忆的重要机制，为理解长时情节记忆的时间方面如何在人工与生物系统中实现提供了新见解。
博主点评： 本文通过对长上下文语言模型的研究，揭示了情节记忆的计算机制，尤其是时间上下文重建的重要性。这一发现不仅为模型的设计提供了新思路，也为理解人类记忆机制提供了启示，具有重要的理论和实践意义。