现代音乐流媒体平台在利用熟悉内容和推动新内容探索之间存在持续的权衡。用户虽然渴望发现新音乐，却往往不愿意放弃已知的喜爱。提供自然语言的解释性理由可以降低这种心理壁垒。大型语言模型（LLM）在生成细致解释方面表现优异，但实时推理成本高、计算开销大，难以直接用于在线推荐。
本文介绍了一种解耦的推荐架构，实现了在不增加响应时延的前提下规模化探索。系统将 LLM 推理移至离线异步流程，预先为每位用户计算未听过的艺术家候选集，并同步生成对应的解释性理由。离线任务利用批处理和分布式调度，将候选池和理由持久化到在线服务的缓存中，在线阶段仅进行轻量的检索和排序。
大规模在线 A/B 实验表明，加入 LLM 生成的解释后，用户对新艺术家的点击率和播放时长均出现显著提升，整体探索率提升约 12%，整体互动率提升约 5%。实验数据支持了“解释降低信任壁垒、提升探索”的假设。
该方案展示了在高并发、低延迟要求的生产环境中，如何通过离线 LLM 推理与在线检索的分层设计，实现可解释推荐的规模化落地。
点评