NeFut Logo NeFut
EN 管理员登录

[AI学术] RoleMix:通过语义标记化统一序列与非序列特征以提升点击后转化率预测

发布于:2026-07-29 22:00 最后更新:2026-07-30 03:24
#AI #Machine Learning #optimization

摘要

点击后转化率(PCVR)预测是工业推荐系统中的核心任务,但仍面临稀疏、无序的多字段特征与长域特定行为历史之间的结构不匹配问题。现有模型通常通过不同的路径处理这些信号,并在后期融合,从而削弱了语义角色并限制了跨信号的优化。

我们提出了RoleMix,这是一种统一的交互架构,通过共享的、保持角色的标记接口来表示序列和非序列证据。非序列字段被转换为明确的语义标记,这些标记保留了用户、物品、成对、密集、上下文和跨特征的角色,而长行为域则通过两阶段的层次窗口注意力被压缩为物品和上下文感知的序列查询标记。最终生成的全局语义和序列查询标记通过堆叠的UniMixing-Lite块共同优化,以进行PCVR预测。

在大规模KDD Cup 2026腾讯UniRec挑战赛中,RoleMix实现了83.648%的在线AUC,超越了官方工业基准1.953%。消融研究显示,语义标记化带来了最大的独立增益,这突显了大规模PCVR建模的一个关键原则:在标记接口层面保留字段语义与扩展交互骨干同样重要。

博主点评: RoleMix的创新之处在于其通过语义标记化有效地融合了序列和非序列特征,这一方法值得在其他推荐系统中推广。其在KDD Cup中的表现也证明了该方法的有效性,未来可期。

原文链接: https://arxiv.org/abs/2607.22700

[h] 返回首页