[AI学术] 个性化多模态大语言模型中的群体偏好崩溃

摘要

个性化多模态大语言模型（MLLMs）旨在生成用户特定的响应，但现有方法主要依赖于用户档案层级信息，忽视了多样化的用户偏好。我们识别出群体偏好崩溃现象，即多用户个性化 MLLMs 对个体偏好变得不敏感，因压制的偏好信号和生成过程中的不可靠偏好使用而向主导人口水平选择漂移。

我们提出了 PrefMoE，一种以偏好为中心的框架，旨在将稳定的用户档案信息与偏好相关的表示分离。PrefMoE 将偏好分解为共享原型和个性化残差，通过不平衡感知学习、反事实伪用户增强和残差去相关化保持个体化残差，并通过单独的 LoRA 适配路径路由档案和偏好因素。

在多种 MLLM 骨干网络上的实验表明，PrefMoE 在提高偏好敏感个性化的同时，显著减少了偏好崩溃现象。

项目页面：PrefMoE

博主点评： 本文提出的 PrefMoE 框架为解决个性化多模态大语言模型中的群体偏好崩溃问题提供了新的思路，其通过有效分离用户偏好与档案信息，显著提升了模型的个性化响应能力，值得关注与深入研究。