本文研究使用微调的大语言模型(LLM)进行个性化问卷回复预测。面临每用户训练数据稀少、模型存储可扩展性以及需要利用问卷题目共享结构等挑战。为此提出 Aplaud(Adaptive Personalized Low-rank and User-specific Nested Decomposition),在 LoRA 基础上将适配分为冻结的共享低秩基 $B$、紧凑的用户特定校正 $C$,并加入秩一残差 $r$ 以实现更细粒度个性化。校正矩阵 $C$ 还能进一步分解为更低秩形式,以降低每用户参数量并缓解过拟合。实验表明,Aplaud 在保持高效推理的同时,实现了跨用户的可扩展个性化,并在泛化能力和推理效率上超越了现有基于 LoRA 的方法。
点评