摘要
大型语言模型（LLMs）已被应用于顺序推荐，将其表述为自然语言任务。以往的研究通过输入条件或LLM微调结合协作和顺序信号来提高个性化效果。然而，现有方法通常依赖于以下一种或多种方式：LLM微调、额外的架构模块、表示蒸馏或对长交互历史的项级条件，这增加了训练复杂性和部署成本。
我们提出了REPREC，一个轻量级框架，通过轻量级用户表示对齐重新构造基于LLM的顺序推荐。REPREC将来自冻结顺序编码器的固定大小用户嵌入映射到一小组学习的软标记，通过轻量级的MLP注入器来调节冻结的LLM，从而保持预训练骨干不变，仅训练注入器。
我们在多个基准数据集上进行了详尽的实验，证明REPREC在性能上始终优于LoRA，同时与不同的预训练顺序编码器和LLM骨干兼容，形成一个模块化且适合生产的推荐管道，无需修改任何预训练组件。尤其对于休闲和核心用户，所有数据集的效果提升显著，突显了REPREC在低数据环境中的有效性。
最后，当在短提示历史上训练并以较长上下文进行评估时，REPREC保持了85-100%的LoRA性能，同时将每个周期的训练时间平均减少了1.51倍，展示了推荐质量与计算效率之间的有效平衡，适合生产部署。代码可在 GitHub 上获取。
博主点评： REPREC通过轻量级用户表示对齐，显著降低了训练复杂度和部署成本，展现出在低数据环境中依然强大的个性化推荐能力。这一创新方法为推荐系统的实用性和效率提供了新的视角，值得行业关注。