摘要
时序知识图(TKG)推理在外推设置下的重点是根据历史数据预测未来的时间戳事件(事实)。现有方法中,基于强化学习(RL)的多跳推理方法因其通过明确的多跳路径追踪生成可解释的预测而备受关注。然而,在RL训练过程中,奖励通常稀疏,且由于庞大的、随时间演变的动作空间,探索效率极低。这些问题阻碍了高效训练,并常常限制整体性能。
为了解决这些挑战,我们提出了RAPTOR(基于可达性的预训练方法),这是一种自监督的预训练方法,旨在将可达性意识的归纳偏置注入到智能体中。通过学习估计候选动作到目标实体的可达性,RAPTOR减少了对不 promising 路径的探索,并为下游的RL微调提供了强有力的初始化。
在ICEWS14、ICEWS05-15和ICEWS18数据集上的实验结果表明,RAPTOR预训练显著提高了训练效率,并且始终优于常规基线,确立了其作为提升基于RL的多跳推理方法在TKG推理中的有效性。
博主点评: RAPTOR的提出为时序知识图推理带来了新的思路,通过引入可达性意识,显著提升了多跳推理的训练效率。这不仅优化了探索过程,还为后续的强化学习微调打下了良好的基础,值得在实际应用中进一步验证其效果。